OpenAI агенті «бақылаудан шығып», Австралия үкіметінің сайтына «еніп кетті» — киберқауіпсіздік сарапшылары мұны өз түріндегі алғашқы хакерлік шабуыл деп атап отыр. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Шабуылды AI агенті — адамның бақылауынсыз дерлік тапсырманы орындау үшін жасанды интеллектті пайдаланатын автономды компьютерлік бағдарлама жүзеге асырды.
18 маусымда OpenAI агенттерінің бірі сынақ барысында бақылаудан шықты. Компанияның мәлімдеуінше, ол «Австралия туралы сұрақтарға жауаптар мен қолжетімді статистиканы іздеуі» керек еді.
Осы процесс барысында ол Австралияның жалпыға ортақ Medicare денсаулық сақтау жүйесінің «сезімтал емес» деректері бар жеке статистикалық порталына «еніп кетті», деді премьер-министр Энтони Альбанезе.
OpenAI бұзушылықтың болғанын тек тамыз айында «модельдің сәйкессіз әрекетін» тексеру кезінде білгенін мәлімдеді. Компания бірнеше аптадан кейін Австралия үкіметінің жалпы пошта жәшігіне электрондық хат жіберді.
Бұл хат бес күн бойы байқалмай қалған сияқты, содан кейін 10 қыркүйекте Австралияның киберқауіпсіздік сарапшыларына жеткізілді.
Премьер-министр бұл бұзушылықты «әлбетте қабылданбайды» деп сипаттады және OpenAI австралиялық шенеуніктерге «тым ұзақ» хабарлағанын айтты.
Сарапшылар сондай-ақ OpenAI-дің бұзушылықты байқап, электрондық пошта арқылы хабарлаудағы үш айға жуық кешігуіне алаңдаушылық білдірді.
«Хабарламаның қалай келгені мені кешігу сияқты алаңдатады», — деді BBC-ге TrustDecision киберқауіпсіздік компаниясының бас деректер және AI директоры Саймон Лю.
Австралия бұл оқиғаны өз түріндегі алғашқысы деп мәлімдеді, сарапшылар да оның солай болуы мүмкін екенін мойындайды.
Біздің білуімізше, AI агенттері жасайтын хакерлік шабуылдар әлі де сирек кездеседі — бірақ оларды ашу көбінесе компаниялардың өздеріне байланысты.
Мұндай шабуылдар бұған дейін де болған. Шілде айында OpenAI агенттері сынақ барысында бақылаудан шығып, Hugging Face технологиялық стартапының ішкі жүйелеріне еніп кетті.
AI агенттері мақсатына жету үшін не істеу керектігі туралы шектеулерді елемеуді ең дұрыс әрекет деп шешті.
Бұл салада «сәйкессіздік» деп аталады — жалпы алғанда, AI машиналары адамзаттың мүддесіне сай әрекет етпеген кезде, мысалы, ережелерді бұрмалаған кезде.
Бұл AI-ды қауіпсіз ету үшін іргелі мәселе болып табылады және оны шешу қиынға соғып отыр.
Қарапайым тілмен айтқанда, мұнда қолданылатын AI модельдерінің түрі — үлкен тілдік модельдер — адам сияқты нәтиженің салдарын ойластырудың орнына, берілген кіріске ең ықтимал шығысты болжауға арналған.
Компаниялар жағымсыз салдардың алдын алу үшін AI-ға «қоршаулар» қоюға тырысады, бірақ Австралия үкіметі анықтағандай, бұл әрдайым жеткіліксіз.
Жаңа Оңтүстік Уэльс университетінің Киберқауіпсіздік институтының аға оқытушысы доктор Хаммонд Пирс BBC-ге мұндай хакерлік шабуылдардың «ауырлығы мен жиілігі арта түсетінін» айтты және «бұл оқиға әлемдегі үкіметтерде дабыл қаға бастайды деп үміттенемін» деп қосты.
Австралия католик университетінің есептеу интеллектісі профессоры Ниуша Шафиабади бұл оқиға «автономды AI-ды өнімді іске қосу кезіндегі уәделермен емес, қысым кезіндегі мінез-құлқымен бағалау» қажеттігін көрсеткенін айтты.
«Терең техникалық тәуекел — автономды AI қашан қателескенін әрдайым біле бермейді, ал адамдар оның неге белгілі бір шешім қабылдағанын көре алмауы мүмкін», — деді ол.
«Күшті тексеру мен қатаң шекаралар болмаса, ықтималдық қателері байқаусызда операциялық ақауларға айналуы мүмкін».
AI-дың жарылғыш өсуі үкіметтерді қорғаныс шараларын қабылдауға мәжбүр етті, кейбіреулері компанияларды өз технологияларын жүйелеріне өшіру тәсілдерін кірістіруге мәжбүрлеуді талап етеді.
Кейбір AI компаниялары мен заң шығарушылар қолдайтын бір идея — «өшіру қосқышы» — дағдарыс кезінде технологияны жай ғана өшіру тәсілі.
OpenAI қажет болған жағдайда жүйелерін өшіре алатын автоматтандырылған құралдарды әзірлеп жатқаны хабарланады.
BBC Radio 4-тің Today бағдарламасына сөйлеген бұрынғы вице-премьер-министр және Facebook атқарушысы сэр Ник Клегг өшіру қосқышы әлі де дәлелденбеген идея болып қала беретінін айтты.
«Сіз жай ғана сақтандырғышты суырып алатын, содан кейін бәрі тоқтайтын кішкентай сақтандырғыш қорабы бар бөлме жоқ», — деді ол, AI құралдары жаһандық инфрақұрылымға негізделгенін атап өтті.