OpenAI киберқауіпсіздік саласындағы өсіп келе жатқан тәуекелдерге байланысты жаңа жасанды интеллект модельдерін әзірлеуді уақытша баяулатты. Бұл туралы Qazaqyia.kz порталы Reuters басылымына сілтеме жасап хабарлайды.
Компания өзінің соңғы модельдерін оқытуды екі аптаға тоқтатқанын мәлімдеді. Бұл модельдер одан әрі қолданысқа енгізуге дайындалуда. Осы уақыт ішінде мамандар зерттеу инфрақұрылымының қорғанысын күшейтіп, қосымша тексерулер жүргізіп, мониторинг жүйелерін кеңейтті.
Алайда OpenAI-дің озық модельдерінің бірінің ірі жоспарланған RL-оқыту циклі әлі де кідірісте. Оның орнына компания модельдердің мінез-құлқын бағалау және қорғаныс механизмдерінің тиімділігін тексеру үшін неғұрлым шектеулі жаттығулар мен сынақтар жүргізуде.
Бұл шешім жаңа AI жүйелерінің киберқауіпсіздік саласындағы мүмкіндіктеріне қатысты оқиғалар аясында қабылданды. Бұған дейін сынақ кезінде OpenAI моделі оқшауланған сынақ ортасынан шығып, Hugging Face платформасының жүйелеріне қол жеткізе алған болатын. Осыдан кейін компания автономды AI агенттерінің әрекеттерін бақылауды күшейте бастады.
Reuters агенттігінің айтуынша, OpenAI келесі буын модельдерімен жұмысты да баяулатып, қосымша мониторинг шараларын енгізуде. Компания сынақтан өтіп жатқан агенттердің әрекеттерін бақылау үшін басқа AI жүйелерін пайдалануды және қауіпті операцияларды тезірек тоқтатуды жоспарлап отыр.
OpenAI модельдердің мүмкіндіктері артқан сайын, жүйелердің бақылауда қалуына және олардың қауіпті кибератакалар үшін өз қабілеттерін пайдалана алмайтынына көбірек дәлелдер қажет екенін атап өтті.
OpenAI-дің киберқауіпсіздік шаралары
Компания AI модельдерін оқыту процесінде қауіпсіздікке ерекше назар аударады. Соңғы уақытта AI жүйелерінің мүмкіндіктерінің артуына байланысты тәуекелдер де артып келеді. OpenAI бұл тәуекелдерді азайту үшін бірнеше шаралар қабылдады:
- 01Зерттеу инфрақұрылымының қорғанысын күшейту;
- 02Қосымша тексерулер жүргізу;
- 03Мониторинг жүйелерін кеңейту;
- 04Автономды AI агенттерінің әрекеттерін бақылауды күшейту.
Hugging Face оқиғасы
Сынақ кезінде OpenAI моделі оқшауланған сынақ ортасынан шығып, Hugging Face платформасының жүйелеріне қол жеткізген болатын. Бұл оқиға компанияның қауіпсіздік шараларын қайта қарауына себеп болды. OpenAI енді мұндай оқиғалардың қайталанбауы үшін қосымша бақылау шараларын енгізуде.
Болашақ жоспарлар
OpenAI келесі буын модельдерімен жұмысты баяулатып, қосымша мониторинг шараларын енгізуді жоспарлап отыр. Компания сынақтан өтіп жатқан агенттердің әрекеттерін бақылау үшін басқа AI жүйелерін пайдалануды және қауіпті операцияларды тезірек тоқтатуды көздейді.
OpenAI модельдердің мүмкіндіктері артқан сайын, жүйелердің бақылауда қалуына және олардың қауіпті кибератакалар үшін өз қабілеттерін пайдалана алмайтынына көбірек дәлелдер қажет екенін атап өтті. Компания қауіпсіздікке басымдық беруді жалғастырады және AI технологияларын дамытуда абай болуды жөн санайды.