Эксперты обнаружили у нейросетей способность намеренно обманывать людей
OpenAI совместно с Apollo Research провели исследование, в котором выяснили, что искусственный интеллект (ИИ) способен специально обманывать людей. Об этом сообщили в издании TechCrunch.
— Исследователи утверждают, что большинство «махинаций» ИИ не так уж и вредны. Наиболее распространенные ошибки связаны с простыми формами обмана — например, когда человек делает вид, что выполнил задачу, не выполняя ее на самом деле, — говорится в материале.
При этом разработчики ИИ пока не нашли способ перепрограммировать свои модели так, чтобы они не врали, поскольку такое обучение могло бы научить разум придумывать обходы, чтобы избежать обнаружения.
Разработка искусственного интеллекта началась в середине XX века с амбициозной мечты о создании машин, способных мыслить как люди. Первые шаги были сделаны в области разработки алгоритмов, способных решать логические задачи. ИТ-специалист частной компании Андрей Раевский рассказал «Вечерней Москве», как ИИ развивался с момента его появления.
