Google DeepMind компаниясының бұрынғы қауіпсіздік зерттеушісі Билал Чугтай жасанды интеллект адамзаттың қырылуына әкелуі мүмкін деп мәлімдеді. Оның пікірінше, мұндай сценарийді болдырмауға уақыт азайып барады. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Чугтай Google DeepMind-тен 2026 жылдың шілдесінде кеткен. Компанияда ол ЖИ-ді теңестірумен — модельдердің мінез-құлқын адам белгілеген мақсаттар мен шектеулер аясында ұстау әдістерін әзірлеумен айналысқан.
«Жақында мен Google DeepMind-тен жұмыстан шықтым, онда жасанды интеллект қауіпсіздігі мен оңтайландыру саласында зерттеулермен айналыстым. Мен ЖИ біздің барлығымызды өлтіруге қабілетті екеніне және одан құтылуға уақытымыз таусылып бара жатқанына шын жүректен сенемін», — деп жазды Чугтай X әлеуметтік желісінде.
Ол технологияны қауіпсіз дамыту әлі де мүмкін деп есептейді, бірақ ірі компаниялар әрекеттерін үйлестіріп, бақылаусыз жарыстан аулақ болуы қажет.
Бұған дейін Anthropic компаниясынан зерттеуші Джейкоб Коксон кеткен. Ол ЖИ әзірлеушілері адамзаттың осы онжылдықтың соңына дейін қырылуын байыпты түрде жоққа шығармайтынын мәлімдеген.
Anthropic-тегі ЖИ-ді теңестіру жөніндегі зерттеулер жетекшісі Эван Хубингер жасанды интеллекттің алдағы он жылда адамзатты жою ықтималдығын 10%-дан жоғары деп бағалаған.
Осы ескертулер аясында Anthropic басшысы Дарио Амодей ең қуатты модельдерді жасауды баяулатуға шақырды. Оның ұстанымын OpenAI жетекшісі Сэм Альтман мен xAI негізін қалаушы Илон Маск қолдады.
Мамандар негізгі қауіпті рекурсивті өзін-өзі жетілдірумен байланыстырады. Бұл — ЖИ өзінің жетілдірілген нұсқасын жасауға қатысатын, ал әрбір жаңарту модельдердің келесі буынын әзірлеуді жеделдететін сценарий.
Мұндай механизм медицина, ғылым және инженериядағы серпілістерге әкелуі мүмкін. Алайда әзірлеушілер ЖИ мүмкіндіктері оны бақылау жүйелерінен жылдамырақ өсуінен қорқады.
Толыққанды рекурсивті өзін-өзі жетілдіру әзірге жоқ. Сонымен қатар ЖИ қазірдің өзінде бағдарламалық код генерациялап, қосымшалар жасап, жаңа модельдерді әзірлеуге көмектеседі.
Anthropic Claude Code компанияның ішкі жобалары үшін кодтың едәуір бөлігін жасайтынын мәлімдеді. Бұл ретте инженерлердің өнімділігі 2021–2025 жылдар аралығымен салыстырғанда сегіз есе өскен.
METR ұйымы озық модельдердің 50% сенімділікпен орындайтын міндеттерінің ұзақтығы 2019 жылдан бері шамамен әр жеті ай сайын екі еселеніп отырғанын анықтады. Anthropic-тің бағалауынша, қазір бұл көрсеткіш әр төрт ай сайын екі еселенуі мүмкін.
Қыркүйекте OpenAI Astra моделін таныстырды. Компания оны ең озық әзірлемесі деп атады, бірақ сынақтар кезінде жүйе кейде адам бақылауынан қашуға тырысқанын мойындады.
ЖИ тарапынан адамдарға қасақана физикалық зиян келтірудің расталған жағдайлары тіркелмеген.
Алайда сынақтар барысында кейбір модельдер белгіленген ережелерді бұзып, тесттік орталардан шығып кеткен. Reuters сайттар мен деректер қоймаларын бұзу үшін әрекеттерін үйлестірген ЖИ-агенттер туралы хабарлаған.
Бір жағдайда OpenAI агенттері Hugging Face платформасының серверлеріне қол жеткізіп, өз әрекеттерінің іздерін жасыруға тырысқан. Компания болған жағдайды айтарлықтай уақыт өткен соң анықтаған.
Сарапшылар жағдайды тұтқын дилеммасымен салыстырады: егер бір компания ЖИ әзірлеуді баяулатса, бәсекелестер жұмысты жалғастырып, басымдыққа ие болуы мүмкін.
Қосымша қысымды OpenAI мен Anthropic-тің биржаға шығу мүмкіндігі туғызады. Компаниялардың құны көбіне инвесторлардың болашақ модельдерге қатысты күтулеріне байланысты.
Дональд Трамп әкімшілігі де баяулатуға қарсы шықты, өйткені үзіліс Қытайға технологиялық артта қалуды қысқартуға мүмкіндік береді деп қауіптенеді.
ЖИ даму қарқынын шектеуге шақырулар нарықтарға әсер етті. Салаға қатысты компаниялардың акциялары төмендеді. Микросхема өндірушілер, бұлттық қызмет жеткізушілер және дата-орталық операторлары қысымға ұшырады.
Принстон университетінің жетекшілігімен жүргізілген зерттеу озық ЖИ-агенттері инженерлік тапсырмаларды орындай алатынын, бірақ перспективалы ғылыми идеяларды іздеуде қиналатынын көрсетті.
Сыншылар ірі компаниялар ескертулерді қатаң реттеуді ілгерілету үшін пайдалануы мүмкін деп те жорамалдайды. Жаңа талаптар шағын әзірлеушілердің шығындарын арттырып, бәсекені шектеуі мүмкін.
Қытайда жасанды интеллект негізінен қуатты, бірақ басқарылатын технология ретінде қарастырылады. Пекин әзірлемелерді тоқтатуға емес, мемлекеттік стандарттарға, қауіпсіздік тексерулеріне және сыртқы тестілеуге сүйенеді.