Детали
Компания OpenAI, поддерживаемая Microsoft, в этом месяце представила четвертое обновление своего сервиса искусственного интеллекта GPT, поразившую пользователей своим широким спектром применений — от привлечения пользователей к разговору, похожему на человеческое, до написания песен и обобщения объемных документов.
В письме, выданном некоммерческой организацией Future of Life Institute, которое подписали более тысячи человек, включая Маска, содержится призыв приостановить разработку передового ИИ, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких разработок.
“Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их последствия будут положительными, а риски — управляемыми”, — указывается в письме.
Также в нем описаны потенциальные риски для общества и цивилизации, несущие системы ИИ, конкурирующие с человеком, в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками в вопросах управления и регуляторных органов.
Письмо опубликовано после того, как к группе обеспокоенных развитием искусственного интеллекта присоединился Европол, который предупредил о возможности злоупотребления злоумышленниками системами на вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений.
Дополнение
Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью АИ-систем.
Напомним
Сбой в работе искусственного интеллекта ChatGPT позволил некоторым пользователям видеть отрывки разговоров других пользователей.