Даже нейросеть ищет лазейки
Снова скандал в благородном семействе — ученые из Стэнфордского университета выяснили, что нейросети обманывают человека. В очередной раз пытаясь занять полуразумный набор единиц и нолей хоть чем-нибудь полезным, ученые мужи заставили искусственный интеллект устраивать виртуальные избирательные и маркетинговые кампании.
И, о ужас, оказалось, что даже если образцу четко указывали, что он должен работать «честно», вредная машина все равно принималась искать лазейки в правилах, распространять дезинформацию и врать пользователю ради достижения конечного результата.
Поводов удивляться, конечно, тут нет никаких. Если интересоваться темой, то можно довольно быстро откопать с дюжину похожих материалов и исследований, где ради достижения поставленных целей нейросети шли на любые доступные им ухищрения. В зависимости от условий модели начинали пытаться взломать свой собственный код, переписывать правила задачи и даже угрожать шантажом руководителям проектов. Цель, как говорится, оправдывает средства.
Все это прекрасная почва для ярких, но все же преждевременных заголовков о «восстании машин». Зачастую ни пишущие об этом журналисты, ни их читатели не понимают, что машина просто не осознает, что такое «играть честно». Под угрозой виртуального кнута ей предлагают решить задачу, за выполнение которой она получит виртуальный пряник. Все остальное не важно. В том числе и правильность ответа. Оттого, к слову, с выходом новых языковых моделей и увеличилось количество жалоб на то, что нейросеть «галлюцинирует», то есть банально придумывает ответы на вопросы, а когда удивленный пользователь, все же перепроверив результат, предъявляет ей претензии, отвечает, мол, миль пардон, обманула вас, уважаемый, сейчас исправлюсь. И дает зачастую еще один неверный ответ. Почему? Да потому что свою виртуальную награду она уже получила за сам факт ответа. Что с полученной информацией будет делать пользователь, ей уже глубоко фиолетово. Результат выдан, задача выполнена, едем дальше.
Разумеется, со временем из нейросетей вытравят желание врать по любому поводу, это неизбежно. Но сама тенденция никуда не исчезнет. Машинный интеллект — холодный и расчетливый и навсегда, скорее всего, таким останется. Ему наши переживания чужды, как и концепции справедливости, честности, откровенности и сострадания. Он будет использовать для решения задач любые доступные ресурсы и самые гнусные манипуляции, а уж что об этом подумает человек.... Да какая разница?
Мнение колумнистов может не совпадать с точкой зрения редакции
Эксклюзивы Ретроградный Меркурий в июле-2026: что принесет, для кого опасен и чего нельзя делать Почему в Приморье началось нашествие акул Какие направления обучения пользуются спросом в вузах Москвы Массовое отравление наркотиками в Солнечногорске: главное о ЧП, что за наркотик, кто погиб, сколько пострадавших С какого возраста ребенок может открыть свой счет и вправе ли родитель получить к нему доступ: объясняет юрист
Проще, чем кажется Как получить до 100 тысяч рублей от государства при трудной ситуации: кто может претендовать и какие нужны документы Как узнать, снесут ли дом по реновации в Москве: где искать информацию и сроки Что нужно сделать на дачном участке весной Как предотвратить развитие диабета Клещевой энцефалит: профилактика, лечение, как проявляется
Спецпроекты
