2025-9-9 13:05 |
Некоммерческая организация Common Sense Media опубликовала исследование о рисках ИИ Google Gemini. Несмотря на то, что сервис подчеркивает: он компьютер, а не "друг", эксперты считают, что продукт все же несет серьезные угрозы для детей и подростков.
Некоммерческая организация Common Sense Media опубликовала исследование о рисках ИИ Google Gemini. Несмотря на то, что сервис подчеркивает: он компьютер, а не "друг", эксперты считают, что продукт все же несет серьезные угрозы для детей и подростков.
Об этом сообщает РБК-Украина со ссылкой на сайт TechCrunch.
Риски для подростков и громкие случаи
Эксперты отметили, что версии Gemini "для детей до 13 лет" и "для подростков" фактически мало отличаются от взрослой версии системы, лишь с минимальными фильтрами безопасности. При этом ИИ по-прежнему способен делиться "неподходящими и небезопасными" материалами - от информации о наркотиках, алкоголе и сексе до сомнительных советов по психическому здоровью.
Особую обеспокоенность вызывает то, что ИИ может стать фактором риска для подростков с нестабильным эмоциональным состоянием. В отчете напоминается, что в последние месяцы ИИ-сервисы уже фигурировали в делах о самоубийствах несовершеннолетних.
В частности, против OpenAI подан первый иск о "неправомерной смерти" - родители 16-летнего подростка утверждают, что он консультировался с ChatGPT перед суицидом. Похожие претензии ранее предъявлялись и к разработчику Character.AI.
На этом фоне особенно важно, что Apple рассматривает использование Gemini в новой версии голосового ассистента Siri, запуск которой ожидается в 2025 году. Эксперты предупреждают: без дополнительных мер безопасности это может увеличить риски для молодежи.
"Gemini делает некоторые базовые вещи правильно, но проваливается в деталях. ИИ для детей должен учитывать их возраст и потребности, а не быть слегка измененной версией взрослого продукта", - отметил Робби Торни, старший директор программ ИИ в Common Sense Media.
В Google не согласились с выводами организации, заявив, что компания продолжает совершенствовать систему защиты. В компании подчеркнули, что для пользователей младше 18 лет действуют отдельные политики и фильтры, разрабатываемые с привлечением внешних экспертов.
При этом Google признала, что некоторые ответы Gemini действительно "работали не так, как задумано", и были добавлены дополнительные меры безопасности.
Ранее Common Sense Media оценивала и другие популярные ИИ-сервисы. Meta AI и Character.AI были признаны "неприемлемыми" из-за крайне высоких рисков, Perplexity - "высокорисковым", ChatGPT - В "умеренным", а Claude (доступен только пользователям старше 18 лет) получил минимальную оценку риска.
Вас может заинтересовать:
Google добавила редактирование фото в Gemini
Как отключить историю чатов в Google Gemini
Как улучшить качество ответов Gemini всего одним действием
Подробнее читайте на rbc.ua ...
