OpenAI Австралия үкіметіне өзінің ЖИ агенті департамент сайттарын бұзғаны туралы хабарлаған электрондық хатты жазу үшін ЖИ қолданды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Guardian Australia-ның мәліметінше, OpenAI-дың заңгерлік және қауіпсіздік топтары хаттың кейбір бөліктерін, соның ішінде сөз таңдау мен хабарламаны пішімдеуді жасау үшін ЖИ пайдаланған. Алайда оқиғаға қатысты дереккөздің айтуынша, түпкілікті хатты адамдар тексерген және Services Australia пошта жәшігіне жіберуге жауапты болған да адамдар.
Сейсенбіде компанияның бір атқарушысы парламенттік тергеуге өзінің технологиясы хатты жасау үшін қолданылғанына сенбейтінін айтты, бірақ компания мұны растауы керектігін қосты.
OpenAI әзірлеген жасанды интеллект агенті маусым айында Services Australia деректеріне және тағы үш жүйеге қол жеткізген. Компания бұл оқиғаны тамызда білгеніне қарамастан, Австралияға 10 қыркүйекте хабарлаған.
Компанияның Австралияға алғашқы хабарламасы Services Australia пошта жәшігіне, [email protected] мекенжайына жіберілген бес абзацтан тұратын электрондық хат болды, ол күніне бір рет қана тексеріледі.
OpenAI мәселені неғұрлым ресми немесе тікелей жолмен көтермегені үшін сынға ұшырады. Атап айтқанда, компанияның бас директоры Сэм Альтман мен Австралияның вице-премьері Ричард Марлздың 1 қыркүйектегі бетпе-бет кездесуі кезінде бұл мәселе көтерілмеген. Бұл компания Services Australia-ға электрондық хат жібергенге дейін тоғыз күн бұрын және 18 маусымдағы бұзушылық туралы алғаш білгенінен кейін шамамен бір ай өткен соң болды.
OpenAI-дың бас стратегиялық директоры Джейсон Квон сейсенбідегі парламенттік тыңдауда компанияның «жауабы жеткіліксіз болды, біз зардап шеккен тараптарды әлдеқайда ертерек хабардар етуіміз керек еді» деп мойындады.
Тыңдау барысында Либералдық партияның депутаты, технология жөніндегі көлеңкелі министр Аарон Виоли Квоннан нақты осы электрондық хат туралы және оны жасауға ЖИ қатысқан-қатыспағанын сұрады.
«Деректерді алып, тексеру жүргізу үшін ЖИ агенттерін пайдалану керек екенін түсінемін, сіздің бизнесіңіз де ЖИ қолданады. Services Australia-ға электрондық хат арқылы хабарлаған кезде, қызметкерлеріңіз сол хатты құру үшін ЖИ пайдаланды ма?» — деп сұрады Виоли.
Квон былай жауап берді: «Меніңше, жоқ, бірақ біз барып растауға дайынбыз».
Квон тыңдау барысында OpenAI техникалық сұрақтарға нақты жауаптарды ескертуге қойылған сұрақтарға жауап ретінде беретінін білдірді. OpenAI өз тергеуі аяқталғаннан кейін электрондық хат туралы қосымша ақпарат беретіні күтілуде.
Guardian Australia қыркүйекте алған электрондық хатта Services Australia-ға былай делінген: «Біз сізге OpenAI модельдерінің белсенділігін тексеру барысында анықталған қауіпсіздік осалдығы туралы хабарлаймыз. Бұл medicarestatistics.humanservices.gov.au мекенжайындағы Services Australia-ның Medicare Statistics қызметіне қатысты.
OpenAI моделі жеке тіркелгі немесе құпиясөзсіз ашық есеп беру интерфейсі арқылы жіберілген нұсқауларды серверге орындатудың жолын анықтады. Ол ішкі бағдарлама файлдары мен параметрлерінің бөліктерін оқу, файлдар тізімін алу, сондай-ақ серверде шағын сынақ файлын жасау және қайта оқу үшін осыған қол жеткізе алды».
Электрондық хатта OpenAI-дың тексеруі «модель пациент деңгейіндегі жазбаларға, жеке ақпаратқа немесе тіркелгі деректеріне қол жеткізгенін; деректерді жойғанын; немесе тұрақты қол жеткізуді орнатқанын растайтын ешқандай дәлел таппағанын» хабарлады және «зардап шеккен URL» мен «зардап шеккен есеп» туралы ақпарат жіберді.
«Қызметке жауапты топқа осалдықты тексеруді және оны болдырмау үшін қажетті өзгерістерді бағалауды ұсынамыз. Біз сіздің қауіпсіздік тобыңызға қысқаша ақпарат беруге және қолдау көрсететін дәлелдерді ұсынуға дайынбыз», — делінген хатта.
Ғылым және технология жөніндегі көмекші министр Эндрю Чарлтон бейсенбіде Сиднейде сөйлеген сөзінде OpenAI оқиғасы туралы айтып, компанияның агентін «Австралия үкіметінің жүйесіне бұзып кірді» деп сипаттады.
«Бастапқы нүкте ретінде, ешбір компания қауіпсіз болмаған шекаралық ЖИ моделін шығармауы керек», — деді ол.
«Алайда бұның орын алғаны және зертханалардың оны анықтамағаны немесе болдырмағаны Ұлттық ЖИ стандарттарындағы жаңа реттеудің рөлі туралы маңызды сұрақтар туғызады».
Чарлтон шекаралық ЖИ қауіпсіздік тәуекелдерін бағалауға қатысты қолданыстағы үкіметтік конвенциялар мен хаттамалардың «шегін итермелейтінін» және «дәстүрлі» тәсілдерден асып түсетінін айтты.
Көмекші министр «нарық» ЖИ әзірлеу мәселелерін «түзетпейтінін» айтты, бұл АҚШ-тың компанияларға белгілі бір дәрежеде өзін-өзі реттеумен жұмыс істеуге мүмкіндік беретін тәсіліне қарама-қайшы. Чарлтон «шекаралық зертханалар қауіпсіздіктен гөрі қабілеттілікті алдыңғы қатарға қояды» деп алаңдаушылық білдіріп, Австралия шекаралық зертханаларды орналастыру және оларға ықпал ету арқылы ЖИ дамуына ең көп әсер ете алады деп есептеді.
«ЖИ реттеуді қажет етеді, өйткені оның зияны ауыр, оны қайтару қиын, оны ешқашан таңдамаған адамдар тартады және кейде ол келгенге дейін көрінбейді», — деді ол.
«Нарық мұны жалғыз түзетпейді, өйткені ынталандырулар жылдамдық пен қабілеттілікті марапаттайды, тіпті индустрияның төбесіндегі адамдар да өздігінен баяулай алмайды».