В Google ввели запрет на разработку искусственного интеллекта для военных

Опубликованные главой Google принципы были разработаны после протестов сотрудников компании против работы на Пентагон. Компания планировала участвовать в проекте по созданию искусственного интеллекта для военных беспилотников.

“Мы хотим ясно сказать о том, что, хотя мы не разрабатываем искусственный интеллект для использования в вооружениях, мы продолжаем нашу работу с правительствами и военными во многих других областях, — отметил Пичаи. — Среди них — кибербезопасность, обучение, призыв на военную службу, здравоохранение для ветеранов, а также поисково-спасательные операции”.

По мере развития технологий создания искусственного интеллекта, добавил он, компания намерена “взаимодействовать с заинтересованными сторонами”.

Гендиректор напомнил, что уже сейчас технологии искусственного интеллекта и машинного обучения имеют большое общественное значение. Системы с ИИ используются для прогнозирования риска возникновения пожаров, борьбы с раком, сельскохозяйственных работ и многих других целей. “Мы знаем, что появление столь важной технологии ставит на повестку дня важные вопросы относительно ее применения. То, как будет развиваться и применяться искусственный интеллект, окажет сильное воздействие на общество на протяжении многих лет. Являясь лидерами в разработке искусственного интеллекта, мы стремимся к тому, чтобы этот процесс шел в правильном направлении”, — написал он.

Использование искусственного интеллекта, подчеркнул он, должно быть “социально полезным”, поскольку прогресс в этой области затрагивает здравоохранение, безопасность, энергетику, транспорт, промышленное производств и сферу развлечений. Создание искусственного интеллекта не должно способствовать “несправедливым предрассудкам” в том, что касается расы, национальной и гендерной идентичности и политических или религиозных воззрений, убежден Пичаи. По его словам, при разработке искусственного интеллекта будут предусмотрены “надежные средства обеспечения безопасности”, системы с искусственным интеллектом и собранные такими системами данные должны находиться под контролем людей, при разработке таких систем должны использоваться самые высокие научные стандарты и компания будет стремиться к тому, чтобы “ограничить приносящее вред” применение таких систем.

Как стало известно в феврале 2018 года, подразделение Google Cloud занималось разработкой искусственного интеллекта в рамках военного проекта Maven. Целью этого проекта искусственный интеллект используется для обработки видеоизображений и может быть применен для нацеливания ударных беспилотников. Специалисты Google занимались вопросами машинного обучения, которое должно позволить дронам различать отдельные цели с помощью анализа данных с видеокамер.

Руководство компании, в том числе Фей-Фей Ли, глава проекта по разработке искусственного интеллекта в Google Cloud, пыталось скрыть от общественности участие в проекте Maven, писала в мае The New York Times. В частности, сотрудникам было запрещено обсуждать проект по электронной почте, чтобы исключить риск утечки данных.

После публикации издание Gizmodo об участии Google в исследованиях Пентагона, около 4 тыс. Сотрудников компании, по данным газеты, подписали петицию против этого контакта, а некоторые — уволились. Со своей стороны руководство Google заявило, что не будет пытаться продлить контракт с Пентагоном по данной программе, срок действия которого истекает в следующем году, и разработает рекомендации по применению систем с искусственным интеллектом.