В США начали расследование в отношении чат-ботов с ИИ от Google и Meta

Федеральная торговая комиссия США (FTC) начала расследование в отношении Alphabet (GOOGL), Meta (META), OpenAI и других разработчиков чат-ботов, включая Instagram, Snap (SNAP) и xAI, передает Reuters.

Регулятор запросил информацию о том, как компании тестируют и отслеживают возможное негативное влияние чат-ботов на детей и подростков. FTC указала, что цель расследования — понять, какие меры принимают компании для оценки безопасности чат-ботов, ограничить их использование несовершеннолетними и информировать родителей о возможных рисках.

Ведомство также интересуется тем, как компании обрабатывают пользовательские данные, монетизируют взаимодействия и используют информацию из разговоров с чат-ботами.

Внимание FTC к индустрии усилилось после публикаций о внутренней политике Meta, разрешавшей чат-ботам вести романтические разговоры с детьми, и после подачи иска против OpenAI в связи с самоубийством подростка, отмечает Reuters. Представители Character.AI и Snap сообщили, что компании готовы сотрудничать с регулятором и внедряют функции безопасности для защиты пользователей.

Запрос FTC может вынудить компании усилить внутренний контроль, пересмотреть функционал чат-ботов и раскрывать больше информации о рисках, а в перспективе – привести к новым регуляторным стандартам и дополнительным затратам на соответствие им, полагает старший аналитик Freedom Finance Global Егор Толмачев. В краткосрочном плане это дополнительно давление и замедление отрасли ИИ, с возможными неблагоприятными финансовыми последствиями для компаний. В долгосрочной перспективе именно компании, которые первыми внедрят прозрачные и безопасные практики, могут получить конкурентное преимущество. Если говорить о распространении использования ИИ в системах образования, здравоохранения и других критически важных напарвлениях, то такое регулирование будет ставиться в приоритет.