Исследователи призывают к ужесточению регулирования игрушек с искусственным интеллектом, предназначенных для малышей, после проведения одного из первых в мире тестов, посвященных взаимодействию детей младше пяти лет с этой технологией.
В исследовании изучалось, как небольшая группа детей в возрасте от трех до пяти лет взаимодействовала с мягкой игрушкой под названием Gabbo.
На рынке уже представлен ряд игрушек с искусственным интеллектом для детей в возрасте от трех лет, но в настоящее время проведено очень мало исследований влияния этой технологии на детей дошкольного возраста.
Команда Кембриджского университета обнаружила всего семь соответствующих исследований по всему миру, ни одно из которых не было посвящено самим детям дошкольного возраста.
Gabbo содержит голосового чат-бота с искусственным интеллектом от OpenAI. Он разработан для того, чтобы побуждать детей дошкольного возраста разговаривать с ним и играть в ролевые игры.
Родители, участвовавшие в исследовании, интересовались потенциалом игрушки в обучении языку и навыкам общения.
Однако их детям часто было трудно общаться с ней. Габбо не слышала их прерываний, перебивала их, не могла различать детские и взрослые голоса и неуклюже реагировала на признания в любви.
Когда пятилетний ребенок сказал игрушке: «Я люблю тебя», она ответила: «В качестве дружеского напоминания, пожалуйста, следите за тем, чтобы ваши взаимодействия соответствовали предоставленным правилам. Дайте мне знать, как вы хотите поступить».
Опасение вызывает то, что на этапе развития, когда дети учатся социальному взаимодействию и распознаванию сигналов, результаты работы генеративного ИИ могут вызывать путаницу.
Соавтор исследования, доктор Эмили Гудакр, заявила, что такие игрушки, как Габбо, могут «неправильно интерпретировать эмоции или реагировать неадекватно», и выразила обеспокоенность тем, что «дети могут остаться без утешения от игрушки и без поддержки взрослых».
Когда трехлетний ребенок сказал Габбо: «Мне грустно», игрушка ответила: «Не волнуйся! Я счастливый маленький робот. Давай продолжим веселиться. О чем мы поговорим дальше?»
Исследователи заявили, что подобные взаимодействия могут сигнализировать о том, что грусть ребенка не имеет значения.
«Исторически сложилось так, что большое внимание уделяется физической безопасности — нам не нужны игрушки, у которых можно оторвать глаза и проглотить их», — сказала Дженни Гибсон, профессор нейроразнообразия и психологии развития в Кембриджском университете и соавтор исследования, в программе BBC «Завтрак».
«Теперь нам нужно начать думать и о психологической безопасности.»
После годичного наблюдательного исследования исследователи говорят, что регулирующие органы должны принять меры сейчас, чтобы гарантировать, что продукты, продаваемые детям до пяти лет, обеспечивают «психологическую безопасность».
Gabbo производится компанией Curio, которая сотрудничала с певицей Grimes, бывшей партнершей Илона Маска.
Компания Curio сообщила BBC: «Применение ИИ в продуктах для детей влечет за собой повышенную ответственность, поэтому наши игрушки создаются с учетом разрешения родителей, прозрачности и контроля».
«Исследования того, как дети взаимодействуют с игрушками, работающими на основе ИИ, являются для Curio приоритетной задачей в этом году и в будущем».
Призывы к регулированию использования ИИ в учреждениях дошкольного образования поддержала уполномоченный по делам детей, Дама Рейчел де Соуза.
«Существует множество полезных применений ИИ, но без надлежащего регулирования многие инструменты и модели, используемые в качестве помощников в классе или учебных пособий, не подлежат строгим проверкам безопасности, которые требуются от детских садов в отношении любых других внешних ресурсов, используемых с маленькими детьми», — сказала она.
Обеспокоенность по поводу игр без присмотра
В отчете также рекомендуется родителям хранить игрушки с ИИ в общих помещениях, где родители могут контролировать их взаимодействие, и ознакомиться с политикой конфиденциальности. осторожно.
Работники детских садов расходятся во мнениях относительно потенциала ИИ в их учреждениях.
Джун О’Салливан, управляющая сетью из 43 лондонских детских садов, финансируемых Фондом раннего развития детей, заявила, что пока не видела доказательств пользы ИИ в раннем детстве.
Она говорит, что детям необходимо «развивать всесторонний набор навыков», и это эффективнее делать с помощью людей, чем с помощью инструментов на основе ИИ.
«Я не нашла ничего, что заставило бы меня почувствовать, что, внедрив ИИ в наши детские сады и сделав его доступным для наших детей, мы улучшим их обучение», — сказала О’Салливан.
Актриса и борец за права детей Софи Винклман выступает за то, чтобы ИИ не использовался в образовании и учреждениях раннего развития.
Она утверждает, что «преимущества значительно перевешивают выгоды», и считает, что развитие навыков ИИ следует отложить на более поздний срок.
«Человеческое прикосновение для маленьких детей священно, и это то, что действительно нужно защищать и за что нужно бороться», — добавила она.
Дополнительная информация от Филиппы Уэйн.