Хакери обманом змусили ChatGPT, Grok і Google допомогти їм встановити зловмисне програмне забезпечення

Відтоді як на початку цього року я написав звіт про те, як легко обдурити агентичний браузер, я стежив за перетином сучасного ШІ та шахрайства старої школи. Тепер на горизонті з’явилося нове зближення: хакери, вочевидь, використовують підказки штучного інтелекту для заповнення результатів пошуку Google небезпечними командами. Коли ці команди виконуються необізнаними користувачами, вони спонукають комп’ютери надати хакерам доступ, необхідний для встановлення зловмисного програмного забезпечення.

Попередження надходить шляхом нещодавній звіт від фірми виявлення та реагування Huntress. Ось як це працює. Спочатку зловмисник розмовляє з помічником ШІ про загальний термін пошуку, під час якого вони пропонують ШІ запропонувати вставити певну команду в термінал комп’ютера. Вони роблять чат загальнодоступним і платять за його розміщення в Google. Відтоді щоразу, коли хтось шукатиме цей термін, шкідливі інструкції відображатимуться високо на першій сторінці результатів.

Huntress провела тести на ChatGPT і Grok після того, як виявила, що атака з викраденням даних, спрямована на Mac під назвою AMOS, походить від простого пошуку в Google. Користувач зараженого пристрою виконав пошук «звільнити дисковий простір на Mac», натиснув спонсороване посилання ChatGPT і, не маючи навченості побачити, що порада була ворожою, виконав команду. Це дозволить зловмисникам встановити шкідливе програмне забезпечення AMOS. Тестери виявили, що обидва чат-боти повторюють вектор атаки.

Як зазначає Huntress, злий геній цієї атаки полягає в тому, що вона обходить майже всі традиційні червоні прапори, на які нас навчили шукати. Жертві не потрібно завантажувати файл, встановлювати підозрілий виконуваний файл або навіть натискати тіньове посилання. Єдине, чому вони повинні довіряти, це Google і ChatGPT, якими вони або користувалися раніше, або чули про них безперервно протягом останніх кількох років. Вони навчені довіряти тому, що їм говорять ці джерела. Навіть гірше, хоча посилання на розмову ChatGPT згодом було видалено з Google, воно діяло щонайменше півдня після того, як Huntress опублікували свій допис у блозі.

Ця новина з’явилася в той час, який і без того складний для обох ШІ. Грока почали критикувати за те, що він підступно підходив до Ілона Маска, а творець ChatGPT OpenAI відстав від конкурентів. Поки що незрозуміло, чи можна атаку відтворити за допомогою інших чат-ботів, але наразі я наполегливо рекомендую бути обережними. Окрім інших кроків здорового глузду щодо кібербезпеки, ніколи не вставляйте нічого в командний термінал або рядок URL-адреси веб-переглядача, якщо ви не впевнені, що це робитиме.