Ванчо Орданоски
Последен хит на ВИ брановите се „headless agents” (автономни агентски системи). Тоа се ВИ модели кои работат во заднина, без интерфејс (не се појавуваат на екран), и извршуваат зададени задачи. На пример (упростено, но за илустрација), „Состави го прегледот и анализата на неделната продажба и истакни ги проблемите“.
Во оваа фаза од развојот на вештачката интелигенција, нема да им верувам на автономните агентски системи ни да ми управуваат со кафематот, а камо ли да работат со податоците на некој од нашите клиенти.
Денешната вештачка интелигенција сè уште не е 100% сигурна. Халуцинира, често се случува „Упс, заборавивме да ја ставиме таа проверка”, неконзистентна е, за комплексни проблеми, за исто прашање, знае да врати различни (дури и спротивни) одговори.
Особено за покомплексни проблеми, не ја бидува без човечки надзор. Тоа што слушаме дека решиле некаков огромен математички проблем, е под надзор на 100 инжинери за ВИ. Уште помалку ѝ верувам самостојно да дава дијагнози. Замисли да згреши, те носат на операција за пресадување на срце, па да испадне дека не било така.
Можеби можете да ја користите за некои поедноставни задачи, но тоа веројатно може да се постигне и со обичен, традиционален програмерски код, кој се извршува бесплатно и под контрола. Не мора да им ставате пари во џебовите на компаниите за вештачка интелигенција.
Што со приватноста и безбедноста на податоците?
А тоа сè уште не е ни најголемиот проблем со вештачката интелигенција. Што правиме со приватноста и безбедноста на податоците? Да ги ставате вашите податоци на некои онлајн агенти и да верувате дека некој бесплатен кинески AI модел нема да ги украде? Бидете реални. Тоа е како да ставите бомбони пред дете: само свртете грб, и веќе ги нема.
Ако мислите дека ВИ компаниите се чесни и треба да им се верува на збор, помислете повторно. Повеќето западни ВИ компании работат за владите на САД, ЕУ и останатите. Мислите дека во тие тајни договори нема клаузули да ви се анализираат разговорите и податоците што ги давате на ВИ? Мислите дека, што знам, NSA или CIA не сакаат да ви ѕирнат во мислите? За Кинезите ич не правам муабет. Сите ВИ модели им се бесплатни, погодете зошто.
ОК, за решавање домашни задачи, или совети како да ги пресадите цвеќињата на тераса, не е проблем, но ставање компаниски документи, анализи на податоци од работењето, сигурно ќе бидат со задоволство „лапнати“.
Со 100-постотна сигурност знам дека и кај нас, секоја бирократска шуша, правник, инжинер, службеник, лекар и сѐ измеѓу, секојдневно користат ВИ за својата работа. Сите документи, податоци, истории на болести, решенија, одат на интернет. Да, и во државните органи е така – сите државни и деловни тајни.
Знам што ќе помислите: „NSA не ја интересира набавката на тоалетна хартија во Министерство за култура“. Веројатно, не – сигурно. Но, сите тие ваши податоци одат уште на едно место – огромните трилионски репозиториуми, мемории на ВИ компаниите. Тие ќе бидат искористени како „храна“ за следните пребарувања, градење на знаење. Без оглед колку се колнат дека не го прават тоа – го прават. Наводно(!) ги анонимизираат.
Што мислите, како ВИ компаниите ги изградиле и ги зголемуваат своите мемориски трезори – со крадење на информации од интернет, дигитални документи, сѐ што е достапно. Неодамна го фатија Амазон како набавува и дигитализира ретки книги, за да станат дел од нивните податоци (па потоа ги уништува ретките книги, но тоа е друго ниво на зло).
ПОДДРШКА ЗА ЦИВИЛ. ДОНИРАЈТЕ ДЕНЕСКА.
Што може да се случи?
На пример, работите во компанија којашто учествува на тендери за јавни набавки за вашите инжинерски производи. Вашите инжинери и правници, за да бидат поуспешни во понудата, ги ставаат сите документи во ВИ, и го прашуваат да направи тендерска документација. Тука се и цените, количините, и сите инжинерски планови.
Вашиот конкурент го прави истото. Го прашува ВИ да направи пребарување на слични понуди и да ги анализира. Што ќе најде ВИ во својата архива? Вашите претходно поставени податоци.
Можеби нема да најде, но можеби и ќе најде. Можеби вашата компанија така ќе изгуби милионски договор, и ќе ја изгуби својата иднина.
Што ви е решението?
Да си направите локален ВИ сервер. Ама, и тоа има проблеми. Ако имате компанија, добар сетап чини најмалку 10.000 евра. Навистина добар, за поголема компанија, не може да се изгради без 30-50.000. И тоа е само ВИ хардверот. Треба систем сала, ладење, греење, бекап напојување, систем админ, барем еден ВИ инжинер (сите со високи плати). Безбедност, физичка и електронска.
И пак нема да биде доволно – локален модел, вообичаено, не е доволен. Ќе мора да излезе на интернет за додатни информации. Ќе ви треба посебен сетап за „санитизација“ (ако е воопшто можна). Без 5-10 илјади евра за помал сетап, не поминувате, и тоа со релативно послаби инжинери.
И пак нема да биде доволно. Кругот се затвора – во овој стадиум на развојот на ВИ агентите, не треба да им се верува 100%. Има голема шанса да згрешат, никој да не ја забележи грешката, и сепак да го изгубите тендерот.
Тука е и прашањето на права на достап – кој сѐ во вашата компанија има достап до што. Пониските службеници не треба да ја знаат висината на понудата, или набавните цени, или условите за продажба, или сите тужби од и кон вашите клиенти. Нешто ќе протече, ако не намерно, на седенка во кафеана.
Затоа, оставете ги маркетиншките трикови на продавачите на ВИ магла. Одлучете за што ви треба, почитувајте си ја приватноста, не лупајте сѐ во ВИ-чатовите.
ВИ е тука и ќе остане, само што сѐ уште е во градинка. И јас, секојдневно, користам ВИ во мојата професија, но никогаш не ја оставам без надзор. Дете од градинка е – ќе излета на улица, ќе ја згази некој.
Ванчо Орданоски е главен софтверски архитект во Инфопроект и еден од најискусните професионалци и ветерани на ИТ-секторот во земјата.
Специјално за ЦИВИЛ МЕДИА | Сите права се задржани.
ПОДДРШКА ЗА ЦИВИЛ. ДОНИРАЈТЕ ДЕНЕСКА.
Ако го цените тоа што го прави ЦИВИЛ, поддржете ја нашата работа.
Вашата поддршка ни овозможува да известуваме, да ја одржуваме платформата за демократски дијалог, да објавуваме едукативни содржини, да се бориме против лагите и да ги браниме човековите права и слободата.
Поддржете го ЦИВИЛ. Донирајте ДЕНЕСКА.
