Жетекші ЖИ компаниясы Anthropic-тің басшысы Dario Amodei жасанды интеллект модельдерінің даму қарқынын баяулатып, оны мұқият бақылауға алуға шақырды. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Сенбі күні жарияланған эссесінде Dario Amodei ЖИ дамытудың өзі күмән тудырмайтынын, бірақ онымен байланысты тәуекелдердің "ауыр" екенін және компаниялар мен үкіметтерге оларды шешу үшін уақыт берілуі керектігін айтты.
Ол үш тармақтан тұратын жоспар ұсынды: ЖИ модельдері әзірленген кезде оларды тәуелсіз бақылау, салалық реттеу және жаһандық реттеу.
Соңғы уақытта технологияның ықтимал тәуекелдері туралы алаңдаушылық күшейіп келеді — ең ауыр ескерту алдағы онжылдықта оның "барлық адамзатты өлтіруі" мүмкіндігі 10%-дан жоғары деген болжамға қатысты.
Anthropic бұған дейін өзінің ЖИ моделін биологиялық қару жасауға қолдау көрсетуі мүмкін "зиянды әрекеттер" үшін пайдалану әрекеттерін анықтап, тоқтатқанын мәлімдеген.
Бірақ ең қатаң ескертуді Anthropic-тің қауіпсіздік тобының екі қызметкері айтты. Олар соңғы екі аптада қызметтен кетіп, адамзаттан ақылды машиналарды жасау жолындағы ЖИ компаниялары арасындағы жарыста адамзат аман қалмауы мүмкін деп мәлімдеді.
Бұл ескертулер әрекетке шақырулар тудырды, бірақ АҚШ президенті Donald Trump осы уақытқа дейін мұндай қорқыныштарды жоққа шығарып, бейсенбі күні "егер біз ЖИ-де жеңбесек, өте нашар жағдайға тап боламыз" деп алаңдайтынын айтты.
"We Must Pace the Frontier" деп аталатын эссесінде Amodei ЖИ-дің "әлдеқайда жылдам" дамығанын, соның ішінде "келесі буын ЖИ-ді құру қабілетін" атап өтті. Сондай-ақ ол бәсекелес OpenAI-ге қатысты оқиғаны атап өтті: шілде айында агенттер өздеріне шабуыл жасау тапсырылмаған нысандарға киберқауіпсіздік шабуылдарын жасағаны белгілі болды.
Amodei OpenAI агенттері "шын мәнінде фанатиктерше берілген ұжым ретінде әрекет етті" деді.
Осы оқиға туралы түсініктемесінде OpenAI "агентаралық коммуникация белсенділігінің маңыздылығы басшылыққа шілдеге дейін түсініксіз болды" деп мәлімдеді. Компания соның салдарынан кейбір озық ЖИ модельдері мен құралдарын оқытуды баяулатып жатқанын, енді ЖИ құралдарының бақылаудан шығып кету тәуекелі артқанын атап өтті.
Эссесінде Amodei "ЖИ-ді оның қауіпсіздігін қамтамасыз етуге тырыса отырып, сонымен бірге оның пайдасына қол жеткізетін теңгерімді қарқынмен құруға" шақырды.
Бұл "модельдерді оқытуды немесе техникалық прогресті тоқтатуды білдірмейді, керісінше компаниялардың модельдерін сәйкестендіру мен қорғауға жеткілікті уақыт бөлуін және үшінші тарап бағалаушыларының мұны растауын қамтамасыз етуді" білдіреді.
Ол Anthropic-ті осыған "біржақты түрде" міндеттеді — сонымен қатар үкіметтерді "басқа да шекаралық компанияларды осыған сәйкес келуге міндеттеуге" шақырды.
Блогында ол реттеудің ЖИ қарқынына ілесе алмауы мүмкін екенін мойындап, сондықтан ЖИ компанияларын реттеумен қатар "стандарттарды белгілеу үшін өз еркімен бірлесіп жұмыс істеуге" шақырды.
Anthropic бас директоры баяулатудың салаға және әлемдегі жетекші әзірлеушілермен, әсіресе Қытаймен бәсекеге әсерін де қозғады.
"Егер баяулату модельдер мүмкіндіктердің сыни деңгейіне жетпей тұрып бізге қосымша бір-екі жыл берсе және біз сол уақытты сәйкестендіруді ілгерілетуге жұмсасақ, бірдеңе ауыр дұрыс кетпеу тәуекелін айтарлықтай азайта алар едік", — деді Amodei.
Бұл "коммерциялық артықшылықты немесе АҚШ-тың ЖИ-дегі көшбасшылығын құрбан етпей" үйлестірілген түрде жасалуы керек. Оның айтуынша, кез келген баяулату Қытайдың алға шығуына жол бермеу үшін шектеулі болуы керек.
Ол АҚШ үкіметін американдық компаниялардың ЖИ чиптері Қытайға сатылмауын — немесе технология авторитарлық елдермен бөліспеуін қамтамасыз ету шараларын қабылдауға шақырды.