Автор: Едуард Голодницький, Президент International Advisers Association, CEO Firm24
Губернатор Каліфорнії Гевін Ньюсом наклав вето на каліфорнійський законопроект AI safety bill, який мав на меті запровадити вимоги щодо перевірки безпеки для потужних моделей ШІ, ставши на бік більшої частини Кремнієвої долини.
Боротьба в Каліфорнії набула величезних масштабів, оскільки законопроект де-факто встановив би національний стандарт для цієї технології. Ньюсом зіткнувся з жорстким лобіюванням з боку економічних і політичних сил штату, включаючи голлівудських акторів, відомих технологічних компаній та інвесторів, а також впливових членів Палати представників. Прихильний до технологій губернатор протягом декількох місяців застерігав від стримування зростаючої індустрії штучного інтелекту в Каліфорнії та підриву економічної конкурентоспроможності штату, але він також заявляв, що Каліфорнія повинна стати лідером у сфері відповідального регулювання.
Губернатор зазначив, що законодавство «не враховує, чи розгортається система штучного інтелекту в умовах підвищеного ризику, чи передбачає вона прийняття критично важливих рішень або використання конфіденційних даних. Замість цього законопроект застосовує жорсткі стандарти навіть до найпростіших функцій - за умови розгортання великої системи. Я не вважаю, що це найкращий підхід до захисту громадськості від реальних загроз, які несе в собі технологія».
В результати Ньюсом підписав менш радикальний законопроект, який вимагає від каліфорнійського агентства з реагування на надзвичайні ситуації вивчити ризики, пов'язані зі штучним інтелектом. Він поєднав своє вето з зобов'язанням розробити законодавство, яке накладає обмеження на ШІ.
Законопроект розділив Кремнієву долину. Провідні дослідники та Ілон Маск підтримали цей захід як спосіб зменшити потенційні ризики для громадськості, тоді як опоненти, такі як Google та OpenAI, стверджували, що його вимоги надмірно обтяжать розробників, особливо невеликі стартапи. Впливові венчурні фірми найняли лобістів з Сакраменто, а відомий інвестор Рон Конвей згуртував опонентів.
Ньюсом, колишній мер Сан-Франциско, давно підтримує тісні зв'язки з Кремнієвою долиною. За останній рік його офіс вжив заходів для інтеграції ШІ в державну владу, зокрема уклав угоду з розробником чіпів Nvidia про створення навчальних програм зі штучного інтелекту і підтримав включення «прискорювача ШІ» в угоду з Google про фінансування місцевої журналістики.
Занепокоєння щодо потенційно негативних наслідків ШІ домінувало в законодавчому році в Сакраменто: законодавці просували десятки законопроектів, щоб обмежити вплив технології на вибори, працівників і громадську безпеку. Технологічні компанії та бізнес-групи, такі як Каліфорнійська торгова палата, чинили опір, попереджаючи, що деякі з цих пропозицій надмірно обтяжуватимуть бізнес і зазіхатимуть на свободу слова.
Ньюсом здобув кілька перемог над прихильниками жорсткіших правил, підписавши підтримані профспілками акторів законопроекти про обмеження використання цифрових копій, які можуть замінити артистів, і прийнявши закони про боротьбу з «глибокими фейками», що видають себе за політичних кандидатів.