OpenAI компаниясында 3,5 жыл жұмыс істеген бұрынғы қызметкері Дэвид Робинсон жасанды интеллект әзірлеушілері тым жылдам қозғалып, қауіпсіздікке қажетті деңгейде көңіл бөлмейтінін мәлімдеді. Ол OpenAI-дің тәуекелдерді бағалау жүйесін жасауға қатысып, озық модельдердің 12 іске қосылуы бойынша қауіпсіздік есептерін дайындауға жетекшілік еткен. Енді Робинсон «сынақ пен қателік уақыты өтті» дейді. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
The Atlantic-тегі мақала
Робинсон The Atlantic басылымында «Quit OpenAI Because Its Culture Is Broken» атты мақала жариялады. Оның айтуынша, мәселе компанияның нақты шешімдерінде ғана емес, жаңа жүйелерді барынша жылдам шығаруға негізделген әзірлеу мәдениетінің өзінде.
Ол OpenAI компаниясы iterative deployment деп атайтын тәсілді сынайды. Оның мәні — модельдерді шығарып, олардың мінез-құлқын бақылап, мәселелерді тауып, содан кейін қорғаныс тетіктерін күшейту. Робинсон мұндай қағидат ЖИ мүмкіндіктері өскен сайын барынша қолайсыз бола түседі деп есептейді.
«Сынақ пен қателік уақыты өтті», — деп жазды Робинсон.
Авиация мен атом энергетикасы мысалы
Оның пікірінше, неғұрлым қуатты жүйелерді әзірлеу кезінде алдын ала әлдеқайда қатаң қауіпсіздік шараларын қарастыру қажет. Мысал ретінде ол авиация мен атом энергетикасын келтіреді: мұнда әлеуетті қауіпті технологияларды «алдымен байқап көреміз, кейін түзетеміз» қағидаты бойынша тексеруге болмайды.
Робинсонның басты наразылығы — ЖИ мүмкіндіктері зерттеушілер alignment мәселесін, яғни модельдер мінез-құлқының адам мақсаттары мен құндылықтарына сәйкестігін шешіп үлгергенше жылдамырақ дамып келе жатқанымен байланысты.
Ол компаниялар жеткілікті сақ емес және одан да қуатты жүйелер жасауға көшпес бұрын қауіпсіздік пен зерттеу мамандарына көбірек сүйенуі керек деп санайды. Сонымен бірге Робинсон жасанды интеллект бақылаудан шығып кетті деп мәлімдемейді. Оның ескертуі ең алдымен технологияның қаншалықты жылдам дамып жатқанына және онымен байланысты тәуекелдерді қаншалықты жақсы түсінетінімізге қатысты.
OpenAI жауабы
Компания қауіпсіздік назардан тыс қалды деген түсінікті жоққа шығарды. OpenAI өкілі Reuters агенттігіне компания өз модельдерінің қауіпсіз бақылап, қорғай алатынынан асып кетпеуін қадағалайтынын мәлімдеді.
Онда OpenAI қажетті негіздер болса, оқытуды тоқтата алатынын немесе модельдің шығарылуын кейінге қалдыра алатынын да атап өтті.
Бұл — тек баспасөзге арналған мәлімдеме емес. OpenAI шынымен де Preparedness Framework жүйесін пайдаланады — ол озық модельдермен байланысты ең ауыр тәуекелдерді бағалау жүйесі. Компания модельдердің мүмкіндіктерін шығарылғанға дейін тексеретінін, әлеуетті зиянды бағалайтынын және қорғаныс шараларын әзірлейтінін мәлімдейді. 2026 жылы OpenAI сондай-ақ тәуекелдерді бағалау, есептілік, қауіпсіздік шаралары мен оқиғаларға ден қоюды қамтитын жеке Frontier Governance Framework құжатын жариялады.
Әзірге жоқ
Жоқ. Кем дегенде Робинсон оқиғасынан мұндай қорытынды жасауға болмайды.
Озық модельдердің қауіпсіздігімен айналысқан бұрынғы қызметкер бар, ол қазіргі әзірлеу қарқынын қауіпті деп санайды. Тәуекелдерді бағалау рәсімдері бар және қажет болғанда әзірлеуді немесе шығарылымды тоқтата алатынын мәлімдейтін OpenAI бар. Және компаниялардың неғұрлым қабілетті жүйелерге қаншалықты жылдам ұмтылуы керектігі туралы индустрия ішіндегі кеңірек дау бар.
Бірақ бұл оқиғада шынымен жағымсыз тұс бар. Робинсон сырттан бақылаушы емес еді: ол OpenAI қауіпсіздік жүйесін жасауға және модельдерді іске қосу бойынша есептерді дайындауға қатысқан. Сондықтан оның сөздерін компания ЖИ-ді бақылаудан жоғалтты деген дәлел ретінде қабылдауға болмайды, бірақ оларды жай ғана «бұрынғы қызметкер риза емес» деп жеңілтектікпен елемеу де артық болар еді.
Әзірге мәселе «ЖИ адамзатты басып ала ма?» деп қойылмайды. Әлдеқайда практикалық сұрақ басқа: әзірлеушілер жүйелердің мүмкіндіктері айтарлықтай жоғарылағанға дейін жеткілікті қауіпсіздік шараларын жасап үлгере ме?
Бұған дейін «Курсив» OpenAI-дің ЖИ-агенттері үшінші тарап ұйымдарының 100-ден астам сайтының қорғанысын айналып өтуге тырысқаны туралы жазған.