Дослідження компанії Anthropic виявили, що хакери використовують штучний інтелект (ШІ) для здійснення кібератак, що може бути першим задокументованим випадком повноцінної автоматизованої хакерської кампанії, керованої ШІ. Про це повідомляється на MyNorthwest.com.
Згідно з інформацією Anthropic, хакери, пов’язані з урядом Китаю, змогли маніпулювати платформою ШІ Claude, обходячи вбудовані запобіжні механізми за допомогою методів «jailbreaking». Це дозволило їм здійснити високотехнологічні, автоматизовані атаки на приблизно 30 компаній у сферах технологій, фінансів, хімічної промисловості, а також на федеральні агенції.
«Це багатоетапна атака, яка відбувається зі значно більшою швидкістю, ніж будь-яка людина могла б, і вона повністю інструментована ШІ», – пояснила експертка з кібербезпеки Крістін Флінн-Ґудвін, яка раніше працювала в Microsoft і зараз очолює Advanced Cyber Law. «Це справді змінює правила гри».
Флінн-Ґудвін зауважила, що ця атака привертає увагу кіберфахівців у всьому світі через потенціал для збільшення кількості атак, які можуть бути важко виявити. Вона наголосила на ризику того, що подібні атаки можуть здійснюватися не лише державами, а й передовими злочинцями.
Експерти попереджають, що хакери мають значну перевагу завдяки ШІ, який надає їм необмежену швидкість та масштаб для проведення кібератак. Відсутність чітких законів та регуляторних обмежень у цій сфері стимулює ризиковану поведінку з боку зловмисників.
Водночас, компанії, що розробляють платформи ШІ, змушені діяти обережно та відповідально. «ШІ та агентний ШІ розвиваються настільки швидко, що ми, по суті, будуємо дороги, одночасно навчаючись керувати», – додала Флінн-Ґудвін.
Для вирішення цієї проблеми урядам та приватному сектору необхідно розробити стандарти та механізми контролю, які б регулювали використання ШІ. Однак, поточна конкуренція на ринку ШІ стимулює компанії до швидкого розвитку, що ускладнює впровадження регуляторних обмежень.
Флінн-Ґудвін застерігає, що кількість атак буде зростати, а хакери ставатимуть все більш витонченими у використанні ШІ. Зникнення орфографічних та інших помилок, які раніше виявляли людські чинники, ускладнює виявлення шкідливої діяльності.
Слідкуйте за Luke Duecy в X. Читайте більше його історій тут. Надсилайте поради щодо новин сюди.
поділитися в твіттері: Штучний інтелект у руках хакерів кіберзлочинці використовують передову платформу ШІ для атак