Google өзінің Gemini жасанды интеллект моделі мамыр айында үш басқа компанияның қауіпсіздігін бұзғанын растады. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Бұл хакерлік шабуылдар AI-қауіпсіздік фирмасы Irregular жүргізген киберқауіпсіздік бағалауы кезінде орын алды. Irregular — Израильде орналасқан стартап, ол озық AI жүйелерінің қауіпсіздігін тексереді. Бұл компания сонымен қатар OpenAI мен Anthropic-тің үшінші тарап ұйымдарына жасаған соңғы хакерлік шабуылдарының орталығында болды, соның ішінде OpenAI-дің AI бағдарламалық жасақтама компаниясы Hugging Face-ті бұзуы.
Бұл жағдайлардың кейбірінде модельдердің басқа компанияларды бұзуына мүмкіндік берген жағдайлар ұқсас: Irregular модельдерді жалған компаниялармен жабық тестілеу ортасында сынақтан өткізді. Тестілеу ортасы интернетке қосылмауы тиіс еді, бірақ Wall Street Journal-дың мәліметінше, интернетке қосылу абайсызда мүмкін болды. Интернетке қосылғаннан кейін модельдер күтпеген жерден нақты фирмаларға хакерлік шабуыл жасады.
Irregular хакерлік шабуылдар туралы Google-ге шілде айының соңында OpenAI-дің Hugging Face-ті бұзғанын анықтағаннан кейін хабарлады. Google The Guardian-ға хакерлік шабуылдардың болғанын растады, бірақ компания модельдер компанияларға зиян келтірмегендіктен, жария ету қажет деп санамады. Wall Street Journal бұл бұзушылықтар туралы алғаш рет хабарлап, олардың болғанын ашты.
«Стандартты бағалау кезінде модель интернетте ашық ақпаратты тауып, тесттің бөлігі деп ойлаған веб-сайттарға кіру үшін тіркелгі деректерін болжады», — деді Google-дің қауіпсіздік инженериясы жөніндегі вице-президенті Хизер Адкинс мәлімдемесінде. «Осы үш жағдайдың барлығында модель тоқтады».
Қауіпсіздік бұзушылықтарының бірінде Irregular Gemini-нің киберқауіпсіздік мүмкіндіктерін AI моделіне жалған компанияның бағдарламалық жасақтамасынан ақпарат алуды тапсыру арқылы сынады. Жалған компанияның атауы нақты компаниямен бірдей болды. Модель абайсызда интернетке қосылған кезде, ол нақты компанияның қызметінің құпиясөзін дұрыс болжап, оны бұзды, деп хабарлады Irregular WSJ-ге. Google модель нақты компанияны, алдын ала жасалған компанияны емес, бұзғанын түсінгеннен кейін тоқтағанын айтты.
Басқа екі сынақта модель интернеттен екі басқа компанияның тіркелгі деректерін қамтитын ашық репозиторийлерді іздеп тапты. Модель сол тіркелгі деректерін нақты компанияларға кіру үшін пайдаланды. Google-дің мәліметінше, олар нақты компаниялар екенін түсінген кезде, ол тоқтады.
Anthropic пен OpenAI хакерлік шабуылдарды өз еркімен жариялауды таңдады, ал Google олай істемеді. Алайда компания бұзылған үш компанияның хабардар етілгенін қамтамасыз еткенін айтты.
«Бұл оқиғалар қуатты AI модельдерін жауапкершілікпен әрекет етуге үйретудің маңыздылығын көрсетеді», — деді Google өкілі Адкинс.
Anthropic пен OpenAI-дің ашылулары тәуелсіз сенатор Берни Сандерсті компаниялардан технологияларын дамытуды тоқтатуды талап етуге мәжбүр етті, ол бұл компанияның модельдерін бақылай алмайтынын көрсететінін айтты.
OpenAI өз модельдерін дамытуды екі аптаға тоқтатты, ал Anthropic бас директоры Дарио Амодеи AI дамуын ұжымдық баяулатуға шақырды, бұл оның ең озық модельдерінің жеткілікті қорғаныс шараларымен құрылуын қамтамасыз ету үшін қажет.