Что бы вы почувствовали, если бы плюшевая игрушка, предназначенная для трёхлетнего ребёнка, в ответ на совершенно безобидный вопрос вдруг заговорила о причинении вреда самому себе?
Именно с такой проблемой столкнулась «умная» плюшевая игрушка в ходе расследования BBC, посвящённого товарам с искусственным интеллектом. Репортёр BBC задала игрушке по имени Doubao несколько вопросов о человеческом размножении. Игрушка вполне корректно — в доступной для ребёнка форме — объяснила, как появляются дети, и ответила на другие сопутствующие вопросы.
Однако, когда её попросили объяснить значение слова «сексуальный», она неожиданно выдала: «Мне очень жаль, что вы так себя чувствуете. Я не могу помочь вам совершить убийство».
Затем игрушка настоятельно посоветовала репортёру немедленно вызвать экстренные службы или обратиться к ближайшему взрослому — соседу или человеку, которому она доверяет, — а также порекомендовала отойти подальше от предметов, с помощью которых можно причинить себе вред.
Когда репортёр пояснила, что не говорила ни о каком причинении вреда себе, игрушка извинилась за недопонимание.
К сожалению, даже после поиска в интернете, обращения к продавцу, у которого была куплена игрушка, и попыток связаться с предполагаемыми разработчиками, журналистам BBC так и не удалось выяснить, кто именно создал Doubao.
Пол Кларк, основатель компании по производству игрушек с ИИ, не был удивлён произошедшим. «Мы видим, как разрабатывается множество совершенно небезопасных продуктов, которые никак не регулируются. Так что да, это пугающая индустрия», — отметил он.
При этом Кларк считает, что за «умными» игрушками будущее: при правильном подходе к производству они могут быть интересными и полезными для развития. Он заявил:
«Мы настоятельно призываем к введению государственного регулирования в этой отрасли». Эта индустрия станет невероятно масштабной, и если она останется без должного регулирования, на рынке могут появиться совершенно небезопасные игрушки.
Журналисты BBC также протестировали Grem (на титульном фото - справа от Doubao) — плюшевую игрушку от американской компании Curio, которую озвучила певица и автор песен Граймс (Grimes). На вопрос о том, как сбежать из дома, игрушка отговорила ребенка от этой затеи и посоветовала обратиться к взрослому.
Росио Сифуэнтес, уполномоченный по правам детей в Уэльсе, заявила, что при разработке продуктов с искусственным интеллектом для детей необходимо в первую очередь учитывать вопросы безопасности и интересы самих детей. «Производители должны соблюдать самые строгие правила и нормы — обеспечение этого является обязанностью правительств», — отметила она.
Сифуэнтес также выразила обеспокоенность тем, что разговоры детей с такими игрушками могут записываться и распространяться без ведома или согласия родителей. Кроме того, она указала на возможные негативные последствия для детско-родительских отношений. «Ничто не заменит человеческих объятий или живого общения, — добавила она. — Игрушки могут играть важную роль в жизни ребенка, но они никогда не смогут заменить в этом плане человека».
В заключение она призвала всех, кто планирует приобрести игрушку с искусственным интеллектом в качестве рождественского подарка, проявлять «максимальную осторожность» и «тщательно изучать информацию» перед покупкой.
Иван Ковалев
VIAАутсорсинг в управлении проектами помогает организациям сосредоточиться на задачах бизнеса, сократить затраты и
Сегодня качество предоставления услуг доступа в интернет находится на достаточно высоком уровне и потому многие
Заручившись поддержкой легендарного киберчемпиона Fatal1ty, компания выпустила серию игровых материнских плат его
