Компания Character.AI объявила о нескольких новых мерах по повышению безопасности подростков, отреагировав на отзывы от регулирующих органов, экспертов по безопасности и родителей. Одним из основных шагов является отмена открытых чатов для пользователей младше 18 лет не позднее 25 ноября. Character.AI заявляет, что с этого момента время чата будет ограничено, начиная с двух часов в день и постепенно сокращаясь в последующие недели. Чтобы поддерживать интерес подростков, Character.AI запустит новые креативные функции, такие как создание видеороликов, историй и трансляций с персонажами.
Компания также заявила о внедрении возрастного контроля, основанного на собственной модели. Система будет сочетаться с ведущими сторонними инструментами, такими как Persona, чтобы гарантировать пользователям доступ только к тем функциям Character AI, которые соответствуют их возрасту.
Еще одной мерой, предпринимаемой Character AI, является создание Лаборатории безопасности ИИ. Компания создаст и будет финансировать лабораторию как независимую некоммерческую организацию. Лаборатория занимается разработкой инноваций в области безопасности для развлекательных функций ИИ следующего поколения, уделяя особое внимание новым методам безопасности, совместной работе и обмену опытом.
Character AI извинилась перед своими подростками, которых коснется отмена открытых чатов, признав, что это серьезное изменение. Несмотря на это, компания заявила, что считает это правильным решением.
Решение компании ограничить взаимодействие юных пользователей с ботами в открытых чатах было принято на фоне критики приложения. В 2024 году один молодой пользователь отдалился от семьи после того, как вступил в глубокие разговоры в приложении, и, по-видимому, пользовался приложением, прежде чем покончить с собой.
Отказ от открытых чатов для несовершеннолетних пользователей может помочь предотвратить повторение подобных инцидентов и повысить безопасность платформы.
Иван Ковалев
VIA25 декабря исполнилось 65 лет со дня сдачи в эксплуатацию Малой Электроннетной Машины (МЭСМ) – первой ЭВМ в СССР и в
Xiaomi 12 Pro привлекает внимание благодаря впечатляющим характеристикам и функциям. В этой статье мы погрузимся в
В новой версии Vivaldi 1.12 разработчики представили три функции, добавленные, как утверждают они сами - "по просьбам
