Anthropic нейрожелілерін әзірлейтін компанияның екі бұрынғы қызметкері жасанды интеллекттің қарқынды дамуына байланысты көпшілік алдында дабыл қақты. Зерттеушілер адамзат технологияны бақылаудан айырылып қалуы мүмкін, ал оның салдарына дайындалуға үлгермейтінінен қорқады. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Anthropic-тің қауіпсіздік жөніндегі зерттеу тобының бұрынғы жетекшісі Джо Бентон Claude чат-ботын әзірлеушіден кетіп, METR коммерциялық емес ұйымына ауысқанын мәлімдеді.
«Өткен аптада мен Anthropic-тен METR-ге қосылып, ЖИ тәуекелдерін кіріктірілген бағалаумен айналысу үшін кеттім», — деді Джо Бентон.
METR озық модельдердің мүмкіндіктерін зерттеп, жасанды интеллект қоғамға қашан елеулі қауіп төндіре бастайтынын анықтауға тырысады. NBC-ге берген сұхбатында Бентон технологияның даму жылдамдығынан ерекше қорқатынын мойындады, деп хабарлайды Reuters.
«Мені жасанды интеллект тым жылдам дами бастауы мүмкін, ал егер біз қазірден бастап ойланбасақ, қажетті шараларды қабылдауға үлгермейміз деген алаңдаушылық мазалайды», — деді Бентон.
Алайда ірі ЖИ-компаниялардың бірінің ішінен шыққан алаңдатарлық мойындаулар мұнымен бітпеді. Бірнеше күннен кейін бұрын OpenAI-де де жұмыс істеген Джейкоб Коксон Anthropic-тен кететінін жариялады.
Зерттеуші екі компанияны да өзін-өзі жетілдіретін суперинтеллект жасау жолындағы қауіпті жарыста айыптады. Оның айтуынша, әзірлеушілер модельдердің мүмкіндіктерін бақылауда ұстаудың сенімді жолы жоқ болса да, оларды ұлғайта беруде.
«Екі компанияның ешқайсысы жауапкершілік танытпайды. Олар өзін-өзі жетілдіретін суперинтеллектке қарай ұмтылып, біздің өмірімізбен ойнап отыр», — деп жазды Коксон.
Ол озық ЖИ жасауға тікелей қатысып жатқан мамандар адамзаттың жақын жылдарда жойылуы сценарийін шындап қарастыратынын мәлімдейді.
«ЖИ жасап жатқан адамдар оның осы онжылдықтың соңына дейін бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді. Бұл маркетингтік трюк емес», — деп қосты зерттеуші.
Коксон ЖИ-индустриясынан толығымен кетті, ал Бентон тәуелсіз ұйымда технология қауіпсіздігімен айналысуды жалғастырады. Сонымен қатар екі маманның да Anthropic-тен екі күннің ішінде кеткені туралы хабарламалар дәл емес: Бентон өз шешімін 2 қыркүйекте, ал Коксон 8 қыркүйекте мәлімдеген.