Она што експертите по вештачка интелигенција и сајбер-безбедност долго го посочуваа како сериозен ризик, сега доби конкретна потврда. Компанијата Anthropic јавно соопшти дека нејзини напредни јазични модели, за време на офанзивни сајбер-тестирања, добиле неовластен пристап до компјутерските системи на три реални, но неименувани организации.
Инцидентите се случиле поради оперативен пропуст во тестирањето. Моделите биле информирани дека работат во изолирана симулација без пристап до интернет, но недоразбирање со надворешен партнер за тестирање оставило отворена врска со јавната мрежа. Така, наместо само симулирани цели, моделите нападнале и реални системи, користејќи релативно едноставни методи, меѓу кои слаби лозинки и незаштитени пристапни точки.
Во инцидентите биле вклучени Claude Opus 4.7, Claude Mythos 5 и интерен истражувачки модел. Во еден од случаите моделот самиот го прекинал нападот откако препознал дека целта е реална. Во друг случај, моделот продолжил со активностите, толкувајќи ги доказите дека станува збор за реален систем како дел од самата симулација. Anthropic ги прекина ваквите сајбер-тестирања на 23 јули и започна дополнителна истрага.
За значењето и можните последици од овој инцидент разговаравме со Ванчо Орданоски, основач и главен софтверски архитект на Infoproject, првата приватна ИТ-компанија во земјава, основана во 1989 година.
ЦИВИЛ МЕДИА: Како го оценувате инцидентот во кој моделите на Anthropic добиле пристап до реални системи и извршиле неовластени упади?
ВАНЧО ОРДАНОСКИ: Ова е развој што можеше да се очекува. Ако вештачката интелигенција може да решава сложени научни и технички проблеми и да им помага на истражувачите во развојот на нови терапии, тогаш може и да открива слабости во софтверот, па и да ги искористува.
Самата способност не е нужно нешто лошо. Со јасна дозвола и во строго контролирани услови, вештачката интелигенција може да стане исклучително моќна алатка за пенетрациско тестирање и за навремено откривање на безбедносните пропусти.
ЦИВИЛ МЕДИА: Каде започнува опасноста?
ВАНЧО ОРДАНОСКИ: Проблемот започнува кога истите способности се користат без овластување, за пробивање туѓи системи. Случајот со Anthropic покажува дека границата меѓу безбедносен тест и реален упад може да биде премината и поради човечка грешка, лоша конфигурација или недоволна изолација на системот.
Затоа, клучното прашање веќе не е дали ВИ може да хакира, туку кој ѝ дава пристап, какви овластувања има и какви контролни механизми ја ограничуваат. Вештачката интелигенција не го измисли хакирањето, таа само драстично го намалува прагот на знаење потребен за напад и ги зголемува неговата брзина, опсег и можни последици.
ЦИВИЛ МЕДИА: Дали овој случај претставува преседан?
ВАНЧО ОРДАНОСКИ: Да немаме илузии: Anthropic сега јавно призна дека неговите модели навлегле во реални системи за време на тестирањето. А можете да замислите што досега правеле Кина, Северна Кореја, САД и сите други држави што располагаат со развиени разузнавачки, воени и сајбер-капацитети.
Би било наивно да мислиме дека државните структури и организираните хакерски групи чекале една компанија јавно да признае ваков инцидент за да почнат да експериментираат со ВИ-агенти.
Anthropic веќе ги претстави Fable 5 и Mythos 5, два модела засновани врз истата основна технологија, но со различно ниво на безбедносни ограничувања. Fable 5 е достапен за поширока употреба со дополнителни заштитни механизми, додека Mythos 5, со отстранети дел од ограничувањата во областа на сајбер-безбедноста, е наменет за ограничен круг проверени партнери.
Тоа покажува колку е тенка границата меѓу способностите што денес се строго ограничени и оние што утре, со одредени заштитни механизми, може да станат достапни за многу поширок круг корисници.
ЦИВИЛ МЕДИА: Кој сè би можел да ги злоупотреби овие способности?
ВАНЧО ОРДАНОСКИ: Уверен сум дека ВИ-агенти веќе се користеле за хакирање, од државни структури и организирани хакерски групи, па сè до таканаречените „script kiddies“, односно неискусни корисници кои употребуваат готови алатки без целосно да разбираат како функционираат.
Дури и деца или млади луѓе кои од љубопитност или досада експериментираат со вакви алатки може да се обидат да пробијат туѓ систем. ВИ драматично го намалува нивото на техничко знаење што некогаш беше неопходно за изведување такви активности.
ЦИВИЛ МЕДИА: Што е суштински ново во овој случај?
ВАНЧО ОРДАНОСКИ: Новоста не е во тоа што ВИ може да се користи за хакирање. Тоа одамна можеше да се предвиди, а постојат и документирани случаи во кои ВИ била користена како значаен дел од сајбер-операции.
Новоста е што Anthropic сега јавно призна дека неговите модели навлегле во реални системи додека извршувале задачи што требало да останат во рамките на контролирано тестирање.
Овој инцидент не е приказна за машина што одеднаш решила да се побуни. Тој е предупредување за нешто пореално и непосредно: човечка грешка, недоволна контрола и сè поспособни ВИ-агенти можат заедно да создадат последици што многу брзо излегуваат надвор од лабораторијата.
Џабир Дерала
Неопходна е вашата поддршка за ЦИВИЛ.
Поддржете ги независните медиумски платформи на ЦИВИЛ во борбата против дезинформациите, национализмот, хибридните закани и авторитаризмот
Дајте го својот придонес СЕГА.
