Глава отдела безопасности ИИ Anthropic уволился со словами «мир в опасности»

Руководитель отдела безопасности искусственного интеллекта (ИИ) в компании Anthropic Мринанк Шарма, зарабатывавший 200 тысяч долларов в месяц, уволился и в прощальном письме к сотрудникам сообщил им о грозящей миру опасности. Об этом в понедельник, 9 февраля, сообщил портал Business Insider.

В письме Шарма рассказал, что достиг своих целей, упомянув такие проекты, как разработка средств защиты для снижения рисков биотерроризма с использованием ИИ, а также его заключительную работу, посвященную изучению влияния ИИ на человечество.

— Мир в опасности. И не только из-за ИИ или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, разворачивающихся прямо сейчас, — написал специалист.

Он добавил, что человечество приближается к точке, в которой мудрость людей должна расти параллельно с их способностью влиять на мир, в противном случае мир столкнется с последствиями.

До Шармы компанию покинули сотрудник отдела исследований и разработок Херш Мехта и ведущий специалист в области ИИ Бехнам Нейшабур. Кроме того, бывший исследователь безопасности ИИ Дилан Скандинаро после увольнения перешел работать в OpenAI, передает портал.

Исследователь из Центра изучения экзистенциального риска Кембриджского университета Томас Мойнихан высказался, что так называемый конец цвета уже начался и приведет к вымиранию человечества. Причинами кризиса ученый назвал изменение климата, биологическое оружие и развитие ИИ.