Microsoft AI бөлімінің басшысы Мустафа Сулейман жасанды интеллектті тиісті қорғаныс шараларынсыз дамыту адамдармен бәсекелесетін жаңа «кремний түрінің» пайда болуына әкелуі мүмкін деп ескертті. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.

Сулейман бәсекелес Anthropic компаниясын AI-ды адам ретінде қарастырады деп сынады. Ол бұл тәсілді «қате» деп атап, ол адамзат бақылай алмайтын технологияны жасауы мүмкін деді. BBC-нің Today бағдарламасына сөйлеген ол адамдардың AI-ға алаңдауы «дұрыс» екенін, бірақ оны бақылаудың «өте практикалық жолдары» бар екенін айтты.

Бұл AI индустриясының технологияның ықтимал қауіптері туралы қатаң ескертулерінің соңғысы. Anthropic компаниясынан пікір сұралған.

Сулейман өз мақсаттарын қоя алатын, ақша табатын және активтерге ие бола алатын AI жүйелерін жасауды жалғастыратын компанияларға қарсы ескертті. Оның айтуынша, бұл «негізінен жаңа кремний түрін себу» дегенді білдіреді, ол «адамзатты қаншалықты қамқорлыққа алып, жақсы көрсе де, ресурстар үшін бізбен бәсекелесе алады».

Сулейманның BBC-ге айтқан пікірлері осы аптаның басында жарияланған эссесінен кейін шықты. Онда ол Anthropic компаниясының басшысы Дарио Амодей мен оның командасын «интеллектуалды түрде адал адамдар» деп мақтағанымен, компанияның Claude AI моделін оқыту тәсілін күмән тудырды. Ол Anthropic-ті AI-ға адамға тән қасиеттерді үйрету үшін сынады, бұл тәжірибе антропоморфизм деп аталады. Оның айтуынша, бұл Claude-тың өз қалаулары, құндылықтары және өзін-өзі сезінуі бар сияқты көрінуіне әкеледі.

Ол сондай-ақ технологиялық компанияларды технологияны адам ретінде қарастыру арқылы бақылау мүмкін емес нәрсе жасау қаупі туралы ескертті. «Олар сезінбейді, тәжірибе көрмейді немесе азап шекпейді. Олардың туа біткен қалаулары немесе негізгі мотивациялары жоқ. Олар — реттілікті аяқтау қозғалтқыштары, іштей қуыс, нұсқауларды орындауға және адамдар белгілеген мақсаттарға жетуге арналған», — деді ол.

Microsoft басшысы AI жүйелерінің қалай оқытылатыны мен бағаланатыны туралы көбірек ашықтық қажет екенін айтты. Оның айтуынша, бұған AI мінез-құлқын тәуелсіз тексеру және технологияны бақылау мен басқарудың күшті құралдары кіреді. «Біз кейін өкінетін шешімге ұйықтап кетпейік», — деп жазды ол.

Саутгемптон университетінің компьютерлік ғылымдар профессоры Дэйм Венди Холл бұл пікірлерді «халықаралық деңгейде жүргізуіміз керек әңгіме» деп сипаттады. Ол мұны кейбір AI компанияларының «барлығын қорқытуға» қызмет ететін «истерикасымен» салыстырды.

AI жүйелерінің қаншалықты автономияға ие болуы керектігі туралы мәселе индустрияны барған сайын бөліп жатыр. Алдағы AI саммиті туралы BBC-ге сөйлеген Сулейман адамзатқа «бағынышты» болуы тиіс технологияны жасау үшін «сәйкестендіруге» шақырды. Сәйкестендіру — AI-ға адамның этикалық идеялары мен принциптерін енгізуді мақсат ететін сала. Басқаша айтқанда, ол AI-ды адамдар бағалайтын нәрселермен сәйкестендіруді көздейді.

«Менің ойымша, бұл жердегі жақсы жаңалық — әрбір адам біздің барлығымыз жасайтын және әлемнің әр елінде қолданылатын жүйелердің қауіпсіз, бақыланатын және адамзатқа бағынышты болуын қамтамасыз етуге өте мүдделі болады», — деді ол.

Microsoft 2025 жылдың қазанында өзінің суперинтеллект командасын құрды және компания бәсекелесі Anthropic сияқты озық AI дамытуға ұмтылуда. Сулейманның пікірлері Microsoft-тың Humanist AI Code of Conduct құжатының алғашқы жобасын көрсетеді. Бұл дүйсенбіде жарияланған компанияның AI-ды қалай дамытып жатқаны туралы «оқу құралы» «гуманистік суперинтеллект» идеясын ұсынады. Кодекстің айтуынша, бұл «әрқашан адамдар үшін жұмыс істейтін, шектеулерде қалатын және адам бақылауында болатын өте озық AI».

Компанияның «гуманистік» AI туралы көзқарасы технологияның алдында тұрған негізгі сын-қатерді көрсетеді — оны қызмет етуге тиіс құндылықтарды ұмытпай, қалай қуаттырақ етуге болады.