Согласно объявлению, сделанному в четверг, Google, OpenAI, Microsoft, Amazon, Nvidia, Intel и другие известные компании в области искусственного интеллекта объединяются, чтобы сформировать Коалицию за безопасный искусственный интеллект (CoSAI), пишет УНН со ссылкой на The Verge.
Детали
Инициатива направлена на решение проблемы «фрагментированной среды безопасности ИИ» путем предоставления доступа к методологиям, структурам и инструментам с открытым исходным кодом.
Издание отмечает, что не известно, какое влияние CoSAI окажет на индустрию искусственного интеллекта, но опасения по поводу утечки конфиденциальной информации и автоматической дискриминации приходят на ум как примеры вопросов безопасности, конфиденциальности и безопасности технологии генеративного искусственного интеллекта.
Среди других компаний, присоединившихся к CoSAI - IBM, PayPal, Cisco и Anthropic. CoSAI будет существовать в рамках Организации по развитию стандартов структурированной информации (OASIS), некоммерческой группы, способствующей развитию открытых стандартов. CoSAI в начале будет работать над тремя целями: разработка лучших практик обеспечения безопасности ИИ; решение проблем в области ИИ; безопасность приложений искусственного интеллекта.
«Мы используем ИИ уже много лет и видим постоянный потенциал для защитников, но также признаем его возможности для злоумышленников», - говорится в заявлении Хизер Адкинс, вице-президент Google по безопасности. «CoSAI поможет организациям, большим и малым, безопасно и ответственно интегрировать ИИ, помогая им использовать его преимущества и одновременно снижать риски», - указала она.
