Создатель ChatGPT OpenAI находится под следствием Федеральной торговой комиссии, чтобы определить, нарушал ли чат-бот компании закон о защите прав потребителей, нанося ущерб репутации и подвергая риску личные данные. FTC также хочет получить информацию о двух инцидентах с безопасностью, произошедших в начале этого года.
Агентство направило в OpenAI 20-страничное письмо с требованием предоставить отчеты о том, как оно устраняет риски, связанные с его моделями ИИ, пишет The Washington Post. В запросе гражданского расследования также запрашиваются подробности о компании, ее модели искусственного интеллекта и обучении, о том, как она справляется с атаками на конфиденциальность и быстрым внедрением, интеграцией API и плагинов и сбором данных.
В одном из заявлений конкретно спрашивается, что OpenAI сделал для устранения опасности, связанной с тем, что его продукты генерируют ложную, вводящую в заблуждение или пренебрежительную информацию о реальных людях. Конечно, генеративный ИИ печально известен своей склонностью к галлюцинациям.
Reg отмечает, что OpenAI не привыкать к искам о клевете. Радиоведущий Джорджии подал в суд на компанию из-за обвинений в том, что ChatGPT ложно связал его имя с уголовным делом. А в апреле мэр Австралии пригрозил судебным иском, заявив, что ChatGPT обвинил его в причастности к скандалу о взяточничестве за границей. Чат-бот также ложно обвинил профессора права США в сексуальном насилии на основании сфабрикованной статьи Washington Post.
OpenAI не очень охотно раскрывает, какие данные он использует для обучения своих больших языковых моделей, поддерживающих ChatGPT. Федеральная торговая комиссия хочет знать, была ли она извлечена из Интернета или куплена у третьих лиц. Агентство также спрашивает, с каких веб-сайтов были взяты данные и что было сделано для предотвращения использования личной информации в качестве обучающих данных.
В последнее время практика очистки данных компаний, занимающихся генеративным ИИ, вызывает споры. Илон Маск пригрозил подать в суд на Microsoft, которая вложила миллиарды в OpenAI, за незаконное использование данных Twitter — это также было заявленной причиной ограничения просмотров твитов пользователей. Reddit, тем временем, столкнулся с массовым восстанием пользователей после того, как начал взимать плату за доступ к своему API в ответ на очистку данных компаниями, занимающимися искусственным интеллектом.
FTC также хочет получить информацию и записи, связанные с инцидентами безопасности в начале этого года. Одна из них была ошибкой, которая позволяла некоторым пользователям видеть информацию, связанную с платежами, а другая открывала заголовки историй чатов пользователей.
Генеральный директор OpenAI Сэм Альтман заявил, что компания будет работать с FTC. Он добавил, что он защищает конфиденциальность пользователей и разрабатывает свои системы, чтобы узнавать о мире, а не о частных лицах.
FTC уже наложила крупные штрафы на Meta, Amazon и Twitter за обвинения в нарушении законов о защите прав потребителей. OpenAI может столкнуться с аналогичным наказанием, если выяснится, что он сделал то же самое, шаг, который заставит другие компании, занимающиеся генеративным ИИ, попотеть.
Ранее в этом месяце Google обновила свою политику конфиденциальности, прямо заявив, что компания оставляет за собой право собирать и анализировать почти все, чем люди делятся в Интернете, для обучения своих систем искусственного интеллекта.
Иван Ковалев
VIAАутсорсинг в управлении проектами помогает организациям сосредоточиться на задачах бизнеса, сократить затраты и
Ваш выбор сервера может иметь серьезные последствия для вашего бизнеса или проекта, поэтому важно осознанно подходить к
Что не очень приятно, но все равно – типично для компании Apple, для своих бета-версий она практически никогда не
