ЖИ-дің «құдай әкелерінің» бірі Джеффри Хинтон адамзат бұл технологияны мүлде әзірлемегенде жақсырақ болуы мүмкін екенін айтты. Ол ЖИ биыл немесе келесі жылы қаржы немесе энергия жүйелерінің уақытша істен шығуы сияқты ауқымды оқиғаға әкелуі мүмкін деп ескертті. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.

Нобель сыйлығының лауреаты, информатик The Guardian-ға берген сұхбатында өзінің жасанды нейрондық желілер туралы жаңалық ашқан зерттеулеріне негізделген технологияға қатысты «апаттық көзқараста» емес екенін және ЖИ «тамаша болашаққа» әкелуі мүмкін екеніне сенетінін айтты. Алайда ол «біз оны мүлде әзірлемегенде жақсырақ болар еді» деп қосты.

78 жастағы Хинтон он жыл ішінде, мүмкін одан да ертерек, адамзат технологияның тәуекелдерін басқара алатынын және оның «радикалды молшылық» деп атағанын жүзеге асыра алатынын, әлде «тәуекелдерді басқара алмай, байлар мен кедейлер арасындағы үлкен алшақтыққа, үлкен мәдени мәселелерге, жаппай жұмыссыздыққа, қоғамның бұзылуына» тап болатынын білетінін айтты.

Хинтон жаңа толықметражды «AI: Probably Nothing to Worry About» деректі фильмінің көрсетілімі алдында сөйледі. Фильм атауын ЖИ чат-боты ұсынған, онда Хинтон және оның Google-дағы бұрынғы әріптесі Демис Хассабис туралы баяндалады. Хинтон фильм жасаушыларға: «Менің борышым бар деп сезінемін. Менің беделім мені спикер етеді және мен оны осыған жұмсауым керек», – дейді.

The Guardian-ға сөйлегенде Хинтон үстемдік пен нарық үлесі үшін жарыста барған сайын қуатты ЖИ модельдерін шығара беретін ірі ЖИ компанияларының басшыларының тәуекелге баруын сынады. Ол ChatGPT жасаушы OpenAI компаниясының бас директоры Сэм Альтманға «мүлде» сенбейтінін айтты. «Менің ойымша, [Марк] Цукерберг, [Илон] Маск және Сэм Альтман тәуекелдерді түсінеді, бірақ оларға бәрібір. Олар ақшаны қалайды. Менің сенімім осы», – деді ол.

Лондонда туып, Бристольде өскен және мансабының көп бөлігін Торонто университетінде өткізген информатик Альтманның Қытаймен ең қуатты ЖИ әзірлеу жарысында алда келе жатқан АҚШ-тың санаулы шекаралық ЖИ компанияларының бірін басқаруы «өте алаңдатарлық» екенін айтты. Альтман қыркүйекте: «Әлем біз дұрыс іс жасайтынымызға сенуі керек, өйткені бұл дұрыс іс және біз оның ауқымын сезінеміз», – деп мәлімдеді.

Хинтон ЖИ саласында шамамен 44 жыл жұмыс істеп, 1970 жылдары нейрондық желі тұжырымдамасын – адамдар сияқты үйреніп, тәжірибе жинақтай алатын математикалық жүйені ұсынды. 2023 жылы ол ЖИ тәуекелдері туралы ашық сөйлеу үшін Google-дан кетті және: «Егер бұл нәрселер көбірек бақылауға ие болуға кетсе, біз қиындыққа тап боламыз», – деп ескертті.

Ол биылғы жазда OpenAI ЖИ агенттерінің Hugging Face сайтын бұзуға сөз байласуын Пенсильваниядағы Three Mile Island электр станциясындағы 1979 жылғы ішінара ядролық балқуға – іс жүзінде ескерту ретіндегі оқиғаға теңеді.

«Биыл немесе келесі жылы біз Чернобыльді көреміз, және бұл адамдардың назарын аударуға жеткілікті болуы мүмкін», – деді ол.

Оның мысалдарына сәйкес, Чернобыль типті оқиға ядролық оқиға емес, керісінше, электр энергиясын өндіру жүйесіне ЖИ қолдауымен жасалған шабуыл «ауқымды қараңғылыққа» әкелуі немесе қаржы жүйесін бір аптаға істен шығаратын оқиға болуы мүмкін.

«Бұл не болатынын елестете аласыз ба? Біз одан қалпына келе аламыз [бірақ] бұл оларды оятып, назарын аударар еді», – деді ол.

«Олар» кімдер деген сұраққа ол: «Трамптан басқа әлем көшбасшылары», – деп жауап берді.

АҚШ президенті Дональд Трамп ЖИ-ді бақылау үшін «жаһандық схема құруға кез келген әрекетті толығымен жоққа шығаратынын» айтты және ережелер АҚШ-тың Қытаймен ЖИ жарысында кедергі келтіруі мүмкін деген алаңдаушылық аясында шекаралық ЖИ компанияларының өзін-өзі реттеуін қалайды. Хинтон Финляндия президенті және Сингапур, Германия, Канада және Австралия сияқты 32 басқа ел қолдаған шекаралық ЖИ модельдерін міндетті тестілеу, тәуелсіз бағалау және үкіметаралық ортақ стандарттар жоспарын қолдайды.

Ұлыбритания премьер-министрі Энди Бернхэм келесі жылы Ұлыбританияның G20 төрағалығын пайдаланып, «толық әлеуетті ашуға және тәуекелдерден қорғауға бағытталған жаһандық принциптер мен стандарттардың бірыңғай жиынтығы» туралы келісімге қол жеткізуге тырысатынын айтты.

Хинтон: «Бізге дәрі-дәрмектер үшін АҚШ-тың FDA сияқты нәрсе керек, онда компаниялар ЖИ моделі шығарылғанға дейін тәуелсіз органға оның пайдасы зиянынан басым екенін дәлелдейтін өте жақсы статистикалық дәлелдер ұсынуы керек. Біз талидомидтен [1950 жылдары әзірленген, ауыр туа біткен ақауларға әкелген дәрі] шығарып, содан кейін сотқа берудің дұрыс жол емес екенін білдік. Ірі технологиялық компаниялар айтып отырғаны – оны талидомид сияқты емдеңіз», – деді.

Хинтонның ЖИ-дің негізін қалаушылардың бірі ретіндегі рөлі оны ядролық қару жасауға орталық тұлға болған Роберт Оппенгеймерге теңеуге әкелді. Хинтонның бір досы оған тіпті Оппенгеймер стиліндегі қалпақ сатып әперді. Бірақ ол: «Мен Оппенгеймер емеспін», – деп, нейрондық желілер саласында жұмыс істейтін мыңдаған басқа ғалымдарды атап өтті.

Ескертулеріне қарамастан, Хинтон жалпы алғанда апаттың алдын алуға болады деп үміттенеді.

«Менің ішкі сезімім – біз әлі де бақылаудамыз», – деді ол. «Біз бірдеңе істей аламыз. Бұл тек үлкен күш салсақ қана жұмыс істейді, бірақ біз үлкен күш салуымыз мүмкін».