У США створили консорціум AISIC з безпеки ШІ з 200 провідних організацій

08 лютого 2024 135 IT комiтет

Автор: Едуард Голодницький, Президент International Advisers Association, CEO Firm24

Адміністрація США заявила, що провідні компанії в галузі штучного інтелекту стали одними з більш ніж 200 організацій, які приєдналися до нового U.S. Artificial Intelligence Safety Institute Consortium (AISIC) для підтримки безпечної розробки та впровадження генеративного ШІ.

Міністр торгівлі США Джина Раймондо оголосила про створення консорціуму AISIC, до якого увійшли OpenAI, Google, Anthropic, Microsoft, Meta Platforms, Apple, Amazon.com, Nvidia, Palantir, Intel, JPMorgan Chase, Bank of America, BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa. Консорціум, до якого також входять великі академічні інститути та державні установи, будуть розміщені в Інституті безпеки штучного інтелекту США (U.S. AI Safety Institute, USAISI).

"Уряд США відіграє важливу роль у встановленні стандартів і розробці інструментів, необхідних для зниження ризиків і використання величезного потенціалу штучного інтелекту", - йдеться в заяві Раймонд.

Перед групою поставлено завдання працювати над пріоритетними заходами, викладеними в жовтневому указі президента Байдена про ШІ, "включаючи розробку керівних принципів для "червоних команд", оцінки можливостей, управління ризиками, безпеки і захисту, а також маркування синтетичного контенту водяними знаками".

Минулого року найбільші компанії, що займаються розробкою штучного інтелекту, пообіцяли ставити водяні знаки на контент, створений за допомогою ШІ, щоб зробити технологію безпечнішою. "Червона команда" вже багато років використовується в кібербезпеці для виявлення нових ризиків, і цей термін походить від симуляцій часів Холодної війни в США, де ворога називали "червоною командою".

Наказ Байдена зобов'язав відомства встановити стандарти для такого тестування і врахувати пов'язані з ним хімічні, біологічні, радіологічні, ядерні та кібербезпекові ризики.
У грудні Міністерство торгівлі заявило, що робить перший крок до написання ключових стандартів і рекомендацій щодо безпечного розгортання і тестування ШІ. Консорціум представляє найбільшу команду з тестування та оцінки і зосередиться на створенні основ для "нової науки про вимірювання безпеки ШІ", заявили в Міністерстві торгівлі США.

Генеративний ШІ, який може створювати текст, фотографії та відео у відповідь на необмежену кількість запитів, викликав хвилювання, а також побоювання, що він може зробити деякі професії застарілими, перевернути результати виборів і потенційно перевершити людські можливості та призвести до катастрофічних наслідків. У той час як адміністрація Байдена вживає запобіжних заходів, спроби Конгресу ухвалити законодавство щодо ШІ зайшли в глухий кут, незважаючи на численні форуми на високому рівні та законодавчі пропозиції.

Reuters