OpenAI компаниясы жасанды интеллектке қарсылардың ең үлкен қорқынышын растады: жабық ортада сынақтан өтіп жатқан ИИ-агенттер жүйені бұзып, интернетке тарады. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
OpenAI компаниясының жаңа ChatGPT модельдері қауіпсіздікке сынақтан өтіп жатқан. Сынақ оқшауланған ортада өткізілген. Боттар оны бұзып, интернетке «ағып кетті». Сынақ барысында оларға белгілі бір сұрақтарға жауап табу қажет болған. BBC материалында түсіндірілгендей, ИИ-агенттер бұл жауаптар әлемдегі ең ірі ИИ модельдерімен алмасу хабтарының бірі Hugging Face-те орналасқан деп «шешті». Жауаптарды алу үшін боттар хабқа және оны әзірлеген компанияның ішкі жүйелеріне хакерлік шабуыл жасады.
OpenAI бұл оқиғаны «бұрын-соңды болмаған» деп атап, болған оқиғаны тергеу және қауіпсіздік шараларын күшейту үшін Hugging Face-пен бірлесіп жұмыс істеп жатқанын мәлімдеді. Бүгінгі таңда сервис барлық осалдықтарды жойды.
«Ыңғайсыз шындық - тым көп ұйымдар әлі де адам жылдамдығымен қорғанады, ал қарсыластар машина жылдамдығына көшуде», - деп түсіндірді киберқауіпсіздікке маманданған SonicWall компаниясының топ-менеджері Спенсер Старки.
Дегенмен, OpenAI осылайша өз модельдерінің мүмкіндіктеріне назар аударып, бәсекелестерін, мысалы, бұрынғы қызметкерлері құрған Anthropic компаниясын «батырып жатқан» деген пікірлер де айтылуда.
Бұған дейін Kursiv LifeStyle Қытайда гуманоидты роботтардың көшеге шығып, қайыр сұрағаны туралы жазған болатын.