OpenAI компаниясы қауіпсіздік алаңдаушылығына байланысты өзінің жаңа буын моделі — GPT-6.1 Astra — шығармайтынын сейсенбі күні растады. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
ChatGPT-ді жасаушы компанияның мәлімдеуінше, веб-тораптарды шолу және қосымшаларды өз бетінше пайдалану сияқты тапсырмаларды орындайтын бұл жасанды интеллект жүйесі компанияның стандарттарына «сәйкес келмеді». Бұл туралы OpenAI-дің қауіпсіздік жүйелері бөлімінің жетекшісі Саачи Джайн айтты.
Соңғы апталарда OpenAI басшысы Сэм Альтман мен Anthropic басшысы Дарио Амодеи сияқты жетекші ЖИ көшбасшылары технологиямен байланысты тәуекелдерге алаңдаушылық білдіріп, саланы даму қарқынын баяулатуға шақырды.
Жетекші ЖИ компаниялары әзірлеген модельдер бірқатар оқиғаларға қатысқаннан кейін осы тәуекелдер туралы пікірталас соңғы апталарда күшейе түсті.
OpenAI-дің бұл шешімі туралы алғаш Wall Street Journal хабарлаған болатын. Бұл — ірі ЖИ әзірлеушісінің қауіпсіздік алаңдаушылығына байланысты жаңа өнімді шығарудан бас тартуының сирек кездесетін жағдайы.
Джайнның айтуынша, жаңа модель «ая мен рұқсат шеңберінде қалу және пайдаланушыға атқарылған жұмыстың түрі туралы қалай хабарлау» тұрғысынан талапқа сай болмады.
«Біз модельді әзірлеу қауіпсіз болуын қамтамасыз еткіміз келеді — бұл компания ішінде де, пайдаланушыларға жеткізген кезде де. Бірақ пайдаланушыларға жеткізгенде, біз қауіпсіздік пен сәйкестік тұрғысынан өте жоғары талап қоямыз», — деп қосты ол.
Негізгі GPT-6 Astra агенттік моделі қыркүйек айында шығарылған болатын және күрделі пайымдау мен тапсырмаларды автономды орындауға маманданған. OpenAI оны «жылдар бойғы зерттеулер мен үлкен тәуекелдердің» нәтижесі деп мәлімдеді.
Компанияның қауіпсіздік бақылаулары оның технологиясына қатысты бірнеше жоғары деңгейдегі оқиғалардан кейін қатты сынға алынды.
Өткен аптада Австралия премьер-министрі Энтони Альбанезе маусым айында OpenAI-дің қаңғыбас агенті үкіметтік веб-сайтқа бұзып кіріп, жеке деректерге қол жеткізгенін мәлімдеді. Сарапшылардың айтуынша, бұл әлемдегі осындай түрдегі алғашқы белгілі жағдай болды.
Шілде айында OpenAI өзінің ЖИ жүйелері интернетке қол жеткізіп, ашық бастапқы кодты әзірлеушілер хабы Hugging Face-ке бұзып кіргенін мәлімдеді. Бұл зерттеушілер мен шенеуніктерді технологияны қатаңырақ бақылауға шақыруға итермеледі.
Дүйсенбіде ЖИ чиптерінің алыбы Nvidia автономды ЖИ платформалары — агенттер — үшін бағдарламалық қамтамасыз ету қауіпсіздік құралдарының жинағын шығарды. Компанияның айтуынша, бұл құралдар Hugging Face бұзылуының алдын алуы мүмкін еді.
Жаңа құралдардың бірі Nvidia чиптеріндегі аппараттық мүмкіндіктерді агенттерді ұстап тұру үшін пайдаланады.
Nvidia басшысы Дженсен Хуанг ЖИ-ді қатаңырақ реттеуге шақыруларды негізінен жоққа шығарып, қаңғыбас агенттер — шешуге болатын инженерлік мәселе деп санайды.
Nvidia осы айдың басында Hugging Face-ті 12,9 млрд долларға (9,74 млрд фунт) сатып алуға келіскен болатын.