Байден видав перший указ США про регулювання AI

Президент США Джо Байден оприлюднив указ про штучний інтелект (Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence) - перший указ США такого роду, який вимагає проведення нових оцінок безпеки, дотримання принципів рівності та громадянських прав, а також дослідження впливу ШІ на ринок праці.

Хоча правоохоронні органи попередили, що готові застосовувати чинне законодавство до зловживань ШІ, а Конгрес намагається дізнатися більше про технологію, щоб розробити нові закони, указ може мати більш безпосередній вплив. Як і всі виконавчі накази, він "має силу закону", за словами високопоставленого чиновника адміністрації, який говорив з журналістами під час телефонної розмови в неділю.

Білий дім розділив ключові компоненти указу на 8 частин:

1. Створення нових стандартів безпеки і захисту для ШІ, в тому числі шляхом вимоги до деяких компаній, що займаються розробкою ШІ, ділитися з федеральним урядом результатами тестів на безпеку, доручення Міністерству торгівлі розробити керівництво з нанесення водяних знаків ШІ, а також створення програми кібербезпеки, яка може створити інструменти ШІ, що допомагають виявляти недоліки в критично важливому програмному забезпеченні.
2. Захист конфіденційності споживачів, у тому числі шляхом створення керівних принципів, які агентства можуть використовувати для оцінки методів захисту конфіденційності, що застосовуються в ШІ.
3. Сприяння рівності та громадянським правам шляхом надання рекомендацій орендодавцям і федеральним підрядникам, які допоможуть уникнути дискримінації за допомогою алгоритмів ШІ, а також створення передового досвіду щодо належної ролі ШІ в системі правосуддя, в тому числі при винесенні вироків, оцінці ризиків і прогнозуванні злочинності.
4. Захист споживачів в цілому шляхом доручення Міністерству охорони здоров'я і соціальних служб створити програму для оцінки потенційно шкідливих практик у сфері охорони здоров'я, пов'язаних зі штучним інтелектом, а також створення ресурсів про те, як освітяни можуть відповідально використовувати інструменти штучного інтелекту.
5. Підтримка працівників шляхом підготовки звіту про потенційний вплив ШІ на ринок праці та вивчення способів, якими федеральний уряд може підтримати працівників, що постраждали від збоїв на ринку праці.
6. Сприяння інноваціям і конкуренції шляхом розширення грантів на дослідження ШІ в таких сферах, як зміна клімату, і модернізації критеріїв для висококваліфікованих працівників-іммігрантів з ключовими знаннями, які мають право залишитися в США.
7. Співпраця з міжнародними партнерами для впровадження стандартів ШІ в усьому світі.
8. Розробка керівництва для федеральних агентств щодо використання та закупівлі ШІ та прискорення найму урядом кваліфікованих працівників у цій галузі.

За словами заступника керівника апарату Білого дому Брюса Ріда, це "найпотужніший комплекс заходів, які будь-коли вживав будь-який уряд у світі для забезпечення безпеки, захисту та довіри до ШІ". Він ґрунтується на добровільних зобов'язаннях, які Білий дім раніше отримав від провідних ШІ-компаній, і є першою великою зобов'язуючою урядовою дією щодо цієї технології. Це також відбувається напередодні саміту з питань безпеки ШІ, який відбудеться у Великобританії.

Високопоставлений представник адміністрації зазначив, що 15 найбільших американських технологічних компаній погодилися взяти на себе добровільні зобов'язання щодо безпеки ШІ, але цього "недостатньо", і понеділковий указ є кроком на шляху до конкретного регулювання розвитку технології. "Кілька місяців тому президент доручив своїй команді задіяти всі важелі, і саме це робить цей указ: використовувати повноваження федерального уряду в широкому діапазоні сфер для управління ризиками ШІ та використання його переваг".

Указ президента Байдена вимагає, щоб великі компанії ділилися з урядом США результатами тестів на безпеку перед офіційним випуском ШІ-систем. Він також надає пріоритет Національному інституту стандартів і технологій у розробці стандартів для "червоного тестування" ШІ, або стрес-тестування захисту і потенційних проблем всередині систем. Міністерство торгівлі розробить стандарти для маркування контенту, створеного ШІ, водяними знаками. Указ також включає питання навчальних даних для великих систем ШІ, а також необхідність оцінити, як відомства збирають і використовують комерційні дані, в тому числі придбані у брокерів даних, особливо якщо ці дані містять персональні ідентифікатори.

Адміністрація Байдена також вживає заходів для посилення кадрового потенціалу у сфері ШІ. Починаючи з понеділка, високопоставлений чиновник адміністрації заявив, що працівники з досвідом роботи в галузі ШІ можуть знайти відповідні вакансії у федеральному уряді на сайті AI.gov.

Що стосується часових рамок для дій, продиктованих указом, представник адміністрації заявив у неділю, що "найагресивніші" терміни для деяких аспектів безпеки та захисту наказу передбачають 90-денний термін, а для деяких інших аспектів цей термін може бути ближче до року.

Указ Байдена є продовженням низки кроків, зроблених Білим домом за останні місяці для створення простору для обговорення темпів розвитку ШІ, а також запропонованих керівних принципів. З моменту експонентного розгортання ChatGPT з 2022 року, який за 2 місяці став найбільш швидкозростаючим споживчим додатком в історії, згідно з дослідженням UBS, широке впровадження генеративного ШІ вже викликало занепокоєння громадськості, юридичні баталії та запитання законодавців. Наприклад, через кілька днів після того, як Microsoft вбудувала ChatGPT у пошукову систему Bing, її розкритикували за токсичну мову, а популярні генератори зображень зі штучним інтелектом потрапили під обстріл за расові упередження та поширення стереотипів.

Указ президента Байдена наказує Міністерству юстиції, а також іншим федеральним відомствам розробити стандарти для "розслідування і судового переслідування порушень громадянських прав, пов'язаних зі штучним інтелектом", - заявив представник адміністрації в неділю під час телефонної розмови з журналістами. "Указ президента вимагає, щоб орендодавцям, федеральним програмам допомоги і федеральним підрядникам були надані чіткі вказівки, щоб алгоритми ШІ не використовувалися для посилення дискримінації", - додав чиновник.

У серпні Білий дім кинув виклик тисячам хакерів і дослідників безпеки, щоб перехитрити найкращі моделі генеративного ШІ від лідерів галузі, включаючи OpenAI, Google, Microsoft, Meta і Nvidia. Змагання проходило в рамках DEF CON, найбільшої у світі хакерської конференції. "Було б правильно назвати це першою в історії публічною оцінкою декількох магістерських програм", - сказав тоді CNBC представник Офісу науково-технічної політики Білого дому.

Конкурс був оголошений після липневої зустрічі між Білим домом і сімома провідними компаніями в галузі штучного інтелекту, включаючи Alphabet, Microsoft, OpenAI, Amazon, Anthropic, Inflection і Meta. Кожна з компаній залишила зустріч, погодившись на низку добровільних зобов'язань щодо розвитку ШІ, включаючи надання можливості незалежним експертам оцінювати інструменти перед публічним дебютом, дослідження суспільних ризиків, пов'язаних зі штучним інтелектом, і надання можливості третім сторонам тестувати системи на вразливість, як, наприклад, на серпневому конкурсі DEF CON.

CNBC