Google-дың AI моделі Gemini киберқауіпсіздік қабілеттерін сынау барысында үш компанияға өз бетінше бұзып кірді, бұл туралы компания мәлімдеді. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Google өкілі BBC-ге Gemini "сынақтың бөлігі деп ойлаған веб-сайттарға қатынасу үшін интернеттегі ашық ақпаратты тауып, тіркелгі деректерін болжағанын" айтты, әр жағдайда "модель тоқтады".
Зардап шеккен компаниялар бұзу туралы хабардар етілді.
Бұл оқиға AI дамуының қарқыны туралы қоғамдық назардың қайта күшеюінен кейін орын алды, кейбір технологиялық компаниялар адамзатқа төнетін ықтимал қауіп туралы алаңдаушылық білдіріп, баяулатуға шақырды — бірақ барлық компаниялар келіспейді.
Бұзулар туралы алғаш Wall Street Journal хабарлаған, олар мамыр айында киберқауіпсіздік бағалауын жүргізетін тәуелсіз компания өткізген сынақ барысында орын алды.
Google-дың қауіпсіздік инженериясы жөніндегі вице-президенті Хизер Эдкинс BBC-ге мәлімдемесінде: "Біз үш ұйымның хабардар болуын қамтамасыз еттік және олардың сынақ процестеріне енгізген өзгерістері бойынша оқыту серіктесімізбен жұмыс істедік" деді.
Ол қосты: "Бұл оқиғалар қуатты AI модельдерін жауапкершілікпен әрекет етуге үйретудің маңыздылығын көрсетеді."
Басқа AI жүйелері де жақында ұқсас бұзу оқиғалары туралы хабарлады.
Шілде айында Anthropic-тің Claude моделі өзінің сынақ ортасынан шығып, үш ұйымға өз бетінше бұзып кірді, бұл OpenAI өз модельдері бірнеше "қоғамдық қолжетімді қызметтерге" кибершабуыл жасағанын мәлімдегеннен кейін бірнеше күн өткен соң болды.
Технологияны дамытудың қауіпсіздігі туралы қоғамдық пікірталас өскен сайын, реттеу туралы әңгіме де көбеюде.
Nvidia бас директоры Дженсен Хуанг пен OpenAI бас директоры Сэм Альтман келесі жұмада Қытай президенті Си Цзиньпинмен Ақ үйдегі мемлекеттік кешкі асқа қатысады деп күтілуде. Альтман келесі аптада БҰҰ Қауіпсіздік Кеңесіне баяндама жасайды.
Жұма күні Хуанг BBC-нің АҚШ-тағы серіктесі CBS News-ке "біз AI дамуын мүмкіндігінше жылдам жүргізуіміз керек" деді.
AI адамзатқа қауіп төндіруі мүмкін деген алаңдаушылықтар неге бар және олар қаншалықты шынайы?
AI адамдарды жойып жібере ала ма және оны қалай жасай алады?
Бақылаусыз AI адамдармен бәсекелесетін "кремний түрлеріне" әкелуі мүмкін, деп ескертеді Microsoft