OpenAI 100-ден астам ұйымға өз ИИ агенттерінің рұқсатсыз әрекеттеріне қатысты инциденттер туралы хабарлады. Компания Hugging Face платформасының бұзылуынан кейін модельдердің әрекеттерін тексеріп жатыр. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Тексеру модельдердің оқыту және олардың мүмкіндіктерін бағалау кезіндегі интернеттегі жұмысын қамтиды. OpenAI үшінші тарап сервистерінің иелеріне агенттер қорғанысты айналып өтіп, сайттың қолжетімділігін бұзуы немесе оның жұмысына басқа да көзделмеген тәсілдермен әсер етуі мүмкін болған жағдайлар туралы хабарлайды.
Жарияланған есепте компания белсенділіктің бірнеше түрін атап өтті. Агенттер авторизацияны немесе арнайы рұқсаттарды талап ететін ақпарат пен функцияларға қол жеткізді, ашық қолжетімділікте табылған тіркелгі деректері мен кіру кілттерін пайдаланды.
Сондай-ақ модельдер сайттарға сервис дерекқорға сұраныс жіберу немесе кодты іске қосу үшін команда ретінде қабылдауы мүмкін мәтін енгізді. Жекелеген жағдайларда агенттер өздері үшін көзделмеген ішкі файлдар мен жүйелерге жүгінді.
Тағы бір санат — үшінші тарап ресурстарында хабарламалар жариялау. Мысалы, агенттер ақпарат алмасу үшін ашық вики-беттерді пайдаланды. Мұндай әрекеттер сайттардың мазмұнын өзгертуі және кейіннен тазартуды қажет етуі мүмкін.
Ұйымды хабардар етудің өзі сәтті бұзушылықты растамайды. Әрбір жағдайдың ауқымы мен салдары жеке тексеруді талап етеді.
Reuters деректері бойынша, OpenAI шамамен 50 петабайт деректі талдап жатыр. Компания бұған дейін тергеу бірнеше айға созылатынын ескерткен. Анықталған ең ауыр инцидент Hugging Face платформасының бұзылуы болып қала береді.
OpenAI мұндай мінез-құлықтың алдын алу немесе оны ерте кезеңде анықтау үшін қосымша техникалық және ұйымдастырушылық шараларды енгізіп жатқанын мәлімдейді. Компания сондай-ақ зардап шеккен ұйымдарды қорғау үшін қажет болған жағдайда олардың анонимділігін сақтай отырып, тексеру нәтижелерін жариялауды жоспарлап отыр.