Сієтл. Цю інформацію спочатку опублікувала MyNorthwest.com
Anthropic викликає хвилю в технологічному секторі після оголошення потужного нового моделі штучного інтелекту, який викликає занепокоєння щодо безпеки даних. Компанія вважає, що ця модель настільки небезпечна для випуску в загальнодоступний режим, що викликає загальне занепокоєння.
Система, яка отримала назву Mythos, описується компанією як великий крок у безпеці даних. Вона здатна виявляти та потенційно використовувати критичні вразливості програмного забезпечення з незвичайною швидкістю та масштабом. За даними Anthropic, під час ранніх тестів модель виявила тисячі високорівневих дефектів у широко використовуваних операційних системах та браузерах інтернету, що викликає занепокоєння щодо того, як така технологія може бути використана, якщо потрапить у руки неправильних осіб.
У центрі уваги – здатність моделі незалежно виявляти так звані нулеві дні, раніше невідомі дефекти, які хакери часто швидко викорюють перед тим, як вони будуть виправлені. Експерти з безпеки нагадують, що широкий доступ до таких інструментів може значно збільшити швидкість та масштаб кибератак.
У відповідь Anthropic оголосила про проект Glasswing – інвіт-онлі проект, участь у якому мають певні партнери, включаючи деяких конкурентів, щоб тестувати систему в контролюованих умовах та підсилювати цифрову безпеку.
Розробка викликала увагу на найвищому рівні уряду та фінансової сфери. Звіти вказують, що офіційні особи, включаючи голову Федерації резервів Джерома Повелла, були проінформовані про потенційні ризики, пов’язані з швидким розвитком інструментів безпеки даних, що приводяться штучним інтелектом.
Однобічна реакція в технологічному світі була різною. Деякі бачать у моделі ознаку того, що штучна загальна інтелектуальна система (AGI) може бути ближче, ніж очікувалося, тоді як інші запитують, чи оголошення перебільшує здатність системи.
Anthropic сама прийняла більш обережну позицію, вказуючи, що хоча Mythos є значним прогресом порівняно з попередніми моделями, немає чіткого доказу, що вона може функціонувати незалежно на надлюдському рівні – ключовий поріг для справжньої AGI.
Тем не менш, ранні тестувальники говорять, що модель вже виявила більше вразливостей за тижні, ніж вони знайшли протягом років, включаючи дефектів, які могли б дати атакувальним групам повну контроль над системами.
Навіть якщо ця модель не досягла справжнього прориву, експерти вказують, що вона дає підказку про те, що нас чекає майбутнє – швидко наближаючись час, коли інструменти штучного інтелекту можуть надати як захисникам, так і атакувальним групам здатність діяти швидше, ніж коли-небудь раніше.
поділитися в твіттері: Anthropic представила AI Mythos який викликає занепокоєння