Искусственный интеллект и защита прав потребителей в США

05 лютого 2021 123 Data privacy комiтет
Вадим Гончаренко

Data Protection & Privacy Manager в Grammarly

Сегодня много говорят о защите персональных данных в контексте применения европейского законодательства, но сегодня мы остановимся на весьма интересном материале о Федеральной торговой комиссии США, и о том, как она регулирует использование искусственного интеллекта с точки зрения защиты прав потребителей.

Итак, в первую очередь, необходимо прояснить на какие сферы предоставляемых услуг распространяются ограничения?

- кредитование
- трудоустройство
- страхование
- услуги связанные с жильем

Требования к бизнесу относительно использования искусственного интеллекта и алгоритмов в предоставлении данных услуг:

1. Если вы отказываете потребителям в услуге на основе алгоритмического принятия решений, объясните почему? Например, в мире предоставления кредитов, компании обязаны раскрывать потребителю основные причины, по которым им было отказано в кредите, и недостаточно просто сказать «ваша оценка была слишком низкой» или «вы не соответствуете нашим критериям». Вы должны быть конкретными (например, «вы не выполнили свои кредитные обязательства»). Это означает, что вы должны знать, какие данные используются в вашей модели, и как эти данные используются для принятия решения. И вы должны суметь объяснить это потребителю. Если вы используете искусственный интеллект для принятия решений о потребителях в любом контексте, подумайте, как вы объясните свое решение покупателю, если его спросят.

2. Если вы собираетесь использовать алгоритм для изменения условий сделки, сообщите об этом потребителям. Компания CompuCredit, занимающаяся ипотечным кредитным рынком, нарушила законодательство не раскрывая информацию о том, что она использовала поведенческую скоринговую модель для снижения кредитных лимитов потребителей. Например, если держатели карт использовали свои кредитные карты для выдачи наличных или для осуществления платежей в определенных местах, таких как бары, ночные клубы и массажные салоны, их кредитный лимит может быть снижен. Компания никогда не говорила потребителям, что эти покупки могут уменьшить их кредитный лимит - ни во время регистрации, ни во время сокращения кредитного лимита.  Если вы собираетесь использовать алгоритм для изменения условий сделки, сообщите об этом потребителям.

3. Необходимо внедрить разумные процедуры для обеспечения максимально возможной точности результатов работы алгоритма относительно потребителей и предоставить им доступ к их собственной информации, а также возможность исправлять любые ошибки. RealPage, Inc., компания, которая развернула программные инструменты для сопоставления информации о заявителях на жилье с их криминальным прошлым. В итоге компания выплатила штраф в размере 3 миллиона долларов за нарушение, не приняв разумных мер для обеспечения точности информации, которую они предоставили арендодателям и управляющим недвижимостью.

В качестве вывода скажу, что это ровным счетом все то, чего требует и GDPR (transparency, fairness, explainability, etc.). Знаю, что в Украине есть много представителей бизнеса из указанных выше направлений, которые позиционируют себя как GDPR-compliant, - есть на что обратить внимание😉

minding your business litigation