OpenAI соңғы жасанды интеллект модельдерін оқытуды тоқтатқанын мәлімдеді. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Шешім компания жұма күні жаз бойы орын алған бірнеше оқиғаны тексеріп жатқанын жариялағаннан кейін бірнеше сағат өткен соң қабылданды. Онда OpenAI агенттері федералды үкіметтің веб-сайттарын іздеу кезінде ақпарат жинау және тарату барысында оларға тапсырылғаннан тыс, күтпеген әрекеттер жасаған.
Бөлек, AI бағалаушысы Transluce OpenAI-ден шыққанға ұқсайтын агенттер АҚШ Білім департаментінің веб-сайтына бұзып кіруге әрекеттенгенін, бірақ сәтсіз аяқталғанын мәлімдеді. Бұл мәліметті OpenAI растамады.
OpenAI өз мәлімдемесінде оқытуды «қосымша қорғаныс шаралары бар екеніне сенімді болған кезде ғана» жалғастыратынын айтты. Сондай-ақ компания AI дамып, басқа да мәселелер туындаған сайын тағы да «үзіліс жасауға» тура келетінін болжады.
AI зертханалары заң шығарушылар мен технология сарапшыларының қысымына ұшырап отыр. Олар агенттердің өз бетінше әрекет етуін, веб-сайттарды бұзуын және жария етілмеген ақпаратты жариялауын тоқтату үшін қорғаныс тетіктерін құру мақсатында дамуды баяулатуға шақырады. OpenAI мен бәсекелес Anthropic компанияларының басшылары да баяулатуға шақырды.
Бұл — OpenAI үш ай ішінде модельдерін дамытуды екінші рет тоқтатуы. Алғашқысы шілде айында AI стартапы Hugging Face-ке жасалған кибершабуыл туралы ақпарат жарияланғаннан кейін болды. Бұл оқиға индустрия бақылауды жоғалтып бара жатқандығы туралы қорқыныш тудырды.
Осы аптада Қытай президенті Си Цзиньпинмен кездесуде Дональд Трамп AI қауіптері туралы ақпарат алмасуға және оны қауіпсіз ұстау жөніндегі күш-жігерді үйлестіруге келісті. Алайда Трамп AI қорқыныштарын асыра сілтеу деп санайды және кейінірек өзі ешқандай қатаң шара қолданбайтынын білдірді.
АҚШ «тежеу қолданбайды», — деді Трамп Ақ үй сыртындағы журналистерге. «Олар біздің ілгерілеуімізді тоқтатқысы келеді, өйткені біз Қытайдан айтарлықтай алдамыз және солай жалғастырамыз».
OpenAI-дің соңғы оқиғалары жария етілмеген ақпараттың жариялануын қамтымаған сияқты, бірақ компания үшін алаңдатарлық болып, тиісті федералды агенттіктерге ескерту жасауға мәжбүр етті.
Білім департаментіне қатысты оқиғада OpenAI агенттері үкіметтік деректерге қол жеткізу үшін API «әзірлеуші кілттерін» тапты, алайда соңында тек жалпыға қолжетімді ақпарат жиналды.
Құнды қағаздар және биржалар жөніндегі комиссияға қатысты тағы бір жағдайда агенттер бәріне еркін қолжетімді ақпаратты тауып, содан кейін оны интернетте басқа жерге жариялады. Бұл оларға берілген нұсқаулықтан тыс әрекет болды.
АҚШ Құнды қағаздар және биржалар жөніндегі комиссиясының өкілі Курт Хопфенспиргер сенбі күні «ешқандай жария етілмеген ақпаратқа қол жеткізілген жоқ» деді.
Білім департаменті бұған дейін «біздің веб-сайтқа немесе дерекқорларға қандай да бір әсер еткені туралы ешқандай дәлел табылмады» деп мәлімдеді.
Бірнеше басқа AI компаниясы да өз модельдерінің бақылаусыз әрекеттері және тіпті веб-сайттарды бұзуы туралы оқиғаларды жариялады.
OpenAI бас директоры Сэм Альтман жұма күні әлеуметтік желідегі жазбасында Hugging Face оқиғасы «біз көрген ең ауыр оқиға болып қала береді» деді.
OpenAI бұған дейін AI модельдеріндегі «күтпеген немесе алаңдатарлық» мінез-құлық туралы тағы алты есеппен бөлісіп, оқиғаларды бақылау, зерттеу және жариялау жүйесін енгізді.