Google-дың Gemini моделі тікелей нұсқаулықсыз үш компанияның қорғалған жүйелеріне киберқауіпсіздік саласындағы мүмкіндіктерді тексеру кезінде қол жеткізді. Бұл — Google-дың жасанды интеллектісі өз бетінше осындай әрекеттер жасаған алғашқы белгілі жағдай. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Оқиға 2026 жылдың мамыр айында тәуелсіз Irregular компаниясы жүргізген тестілеу кезінде болды. Gemini-ге интернетке қол жеткізу беріліп, компьютерлік жүйелердің қорғанысын тексеру міндеттері жүктелді.
Алайда модель тестілеудің болжамды аймағынан шығып кетті. Бір жағдайда Gemini қорғалған жүйеге қол жеткізгенше құпиясөздерді қайта-қайта таңдап көрді. Тағы екі жағдайда ИИ ашық репозиторийден тіркелгі деректерін тауып, оларды компаниялардың сайттарына кіру үшін пайдаланды.
Сонымен қатар, Gemini бұл ресурстар да тексеру аймағына кіреді деп есептеген болуы мүмкін. Қол жеткізгеннен кейін модель үш жағдайда да одан әрі әрекеттерді өз бетінше тоқтатты.
Google-дың қауіпсіздік жүйелерін әзірлеу жөніндегі вице-президенті Хизер Адкинс зардап шеккен ұйымдар оқиғалар туралы хабардар етілгенін мәлімдеді.
«Біз үш ұйымның да хабардар болуын қамтамасыз еттік және оқыту жөніндегі серіктесімізбен бірлесіп, олар өздерінің тестілеу процестеріне енгізген өзгерістерді әзірледік. Бұл оқиғалар қуатты ИИ модельдерін жауапты мінез-құлыққа оқытудың маңыздылығын көрсетеді», — деді Адкинс.
Irregular компаниясында мәселе тек Google-ға қатысты болмағанын хабарлады. Ұқсас оқиғалар туралы бұрын Meta, Anthropic және OpenAI да айтқан. Барлық белгілі осалдықтар материал жарияланғанға дейін бірнеше апта бұрын жойылды.
Тамыз айында Meta өзінің жағдайы ИИ-дің оқшауланған ортадан шығуына немесе күрделі кибершабуыл жасауына байланысты болмағанын мәлімдеді. Соған қарамастан, болған оқиға автономды ИИ-агенттерге интернетке және корпоративтік жүйелерге қол жеткізу қаншалықты қауіпсіз екендігі туралы алаңдаушылықты күшейтті.