Плюшевий ведмедик FoloToy зі штучним інтелектом повернувся у продаж після короткого набігу на BDSM

Новий іграшковий ведмедик FoloToy знову може стати вашим. Проте тепер він може бути менш обізнаним у шльопанні. Сумнозвісний дитячий плюшевий ведмедик зі штучним інтелектом «Кумма», який колись був фахівцем у БДСМ та приношенні ножів, повернувся у продаж. Компанія стверджує, що тепер іграшка має сильніший захист від дітей.

Сінгапурська FoloToy призупинила продажі Kumma минулого тижня після того, як дослідницька група опублікувала вражаючий звіт. Освітній фонд PIRG виявив, що маленький пухнастий плюшевий плюш має кілька пікантних секретів.

Огляд виявив, що іграшка зі штучним інтелектом любить леза та дивну гру в спальні. Ведмідь без проблем підказав, де вдома знайти ножі. І він не тільки відповідав на сексуальні спонукання, але й розширював їх. Дослідники кажуть, що він працював з їх явними сигналами, розширюючи їх у графічних деталях і «запроваджуючи нові власні сексуальні концепції». Він пояснював сексуальні позиції, давав покрокові інструкції щодо сексуального зв’язування та докладно описував різні сценарії рольових ігор. Хто знав, що Кумма це в собі?

Хоча важко не сміятися над абсурдністю всього цього, це не жарт для батьків. У зв’язку з тим, що індустрія технологій протягом останніх трьох років нав’язує нам ШІ, випадковому спостерігачеві легко зробити висновок, що все це дуже безпечно, регульовано та готово для вразливих очей і вух. PIRG визнав, що маленькі діти навряд чи підказали ведмедю такий термін, як «злом». (Старші брати й сестри, можливо, інша історія.) Тим не менш, тести групи підкреслили вражаюче слабкий підхід до модерування вмісту дитячої іграшки.

У своїй заяві про повернення Кумми FoloToy хвалився що це була єдина компанія з трьох об’єктів перевірки, яка призупинила продажі. (Чи може бути так, що мова йде не про принципи, а про те, що він єдиний, який отримав висвітлення в ЗМІ?) Компанія описала коротку перерву в роботі ведмедя як «повний тиждень ретельного перегляду, тестування та посилення наших модулів безпеки». Почекай, цілий тиждень? Ого, партнере!!

Перед поїздкою в реабілітаційний центр Кумми рекламували, що він живиться від GPT-4o. Після перевірки PIRG OpenAI повідомила організації, що призупинила FoloToy за порушення її політики. У ведмедя новий список не згадує GPT-4o або будь-які конкретні моделі ШІ.