Илон Маск и группа экспертов призвали прекратить "гигантские эксперименты с искусственным интеллектом"

Детали

Компания OpenAI, поддерживаемая Microsoft, в этом месяце представила четвертое обновление своего сервиса искусственного интеллекта GPT, поразившую пользователей своим широким спектром применений — от привлечения пользователей к разговору, похожему на человеческое, до написания песен и обобщения объемных документов.

В письме, выданном некоммерческой организацией Future of Life Institute, которое подписали более тысячи человек, включая Маска, содержится призыв приостановить разработку передового ИИ, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких разработок.

“Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их последствия будут положительными, а риски — управляемыми”, — указывается в письме.

Также в нем описаны потенциальные риски для общества и цивилизации, несущие системы ИИ, конкурирующие с человеком, в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками в вопросах управления и регуляторных органов.

Письмо опубликовано после того, как к группе обеспокоенных развитием искусственного интеллекта присоединился Европол, который предупредил о возможности злоупотребления злоумышленниками системами на вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений.

Дополнение

Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью АИ-систем.

Напомним 

Сбой в работе искусственного интеллекта ChatGPT позволил некоторым пользователям видеть отрывки разговоров других пользователей.