OpenAI компаниясы маусым айында Австралия үкіметінің сайттарын бұзған оқиғаға қатысты өз әрекеттері "жеткіліксіз" болғанын мойындады. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Компанияның бас стратегиялық директоры Джейсон Квон сейсенбіде Сиднейде өткен AI жөніндегі парламенттік тыңдауда сөйлеп, бұл бұзушылық "болмауы керек еді" және компания "жауабын жақсырақ ұйымдастыруы керек еді" деді. Австралияға хабарлау жалпы пошта жәшігіне электрондық хат жіберу арқылы бірнеше аптадан кейін ғана жетті.
"Біз кешірім сұраймыз және австралиялық халықтың сенімін қалпына келтіру үшін жұмыс істеуіміз керек екенін білеміз", — деді Квон.
Anthropic компаниясы да тыңдауға қатысып, жақында жүргізілген тергеу барысында Австралияға қатысты бұзушылықтар табылмағанын мәлімдеді.
OpenAI агенті маусым айында Австралияның жалпыға ортақ Medicare денсаулық сақтау жүйесінің "сезімтал емес" деректерін қамтитын жеке статистикалық порталға "еніп кірді". Киберқауіпсіздік сарапшылары мұны осы түрдегі алғашқы бұзушылық деп атады.
OpenAI бұзушылықтар туралы білгеннен кейін үкімет министрлеріне неге тікелей хабарласпағаны туралы сұраққа Квон бұл қате болғанын мойындады.
"Артқа қарасақ, сіз айтқанды істеуіміз керек еді", — деді Квон комитеттің үкімет министрлерінің ұялы телефон нөмірлеріне неге қоңырау шылмағаны туралы сұрағына жауап бере отырып.
"Мұның осылай болуының себебі — адамдар мұны техникалық жағдай деп ойлады және техникалық әріптестермен байланысу керек деп шешті, бірақ бұл жеткіліксіз."
Квон компанияның мұндай оқиғаларды өңдеу тәсілін өзгерткенін айтты.
"Жағдайды толық түсінбесек те, біз хабарлаймыз және зардап шеккен тараппен бірлесіп жұмыс істейміз."
OpenAI оқиғалардан кейін оқыту орталарына "қосымша сақтық шараларын" қосқанын Квон 12 мүшелі комитетке айтты. Комитет AI және оның Австралияға әсерін зерттеп жатқан Лейбористік, Либералдық және тәуелсіз депутаттар мен сенаторлардан құралған.
Компания сонымен қатар Австралияда "барған сайын қабілетті AI-мен байланысты тәуекелдерді жақсырақ басқару жолдарын" зерттейтін жергілікті жұмыс тобын құрды.
Квон комитетке оқыту модельдері енді сынақтар кезінде нақты уақытта бақыланатынын, ал егер олар интернетпен болмауы керек жолмен әрекеттессе, дабыл қосылатынын айтты.
Бұл өткен аптада Жаңа Оңтүстік Уэльс үкіметін тағы бір бұзушылық туралы 48 сағат ішінде хабардар етуге мүмкіндік берді.
Компания оқиғаларды міндетті түрде ашу жөніндегі шеңберді де қолдайтынын Квон айтты, өйткені бұл "нақты күтулерді" белгілейді.
"Біз өз ерікті әрекеттерімізге қолданылатын стандартты әзірлеуге тырыстық... осындағы тәжірибемізге сүйене отырып, мұны қалай жақсы жасау керектігі туралы көбірек адамдармен сөйлесуіміз керек еді."
Anthropic компаниясының қорғаныс жөніндегі басшысы Дэйв Орр шілде айында OpenAI агенттері Hugging Face технологиялық платформасын бұзғаннан кейін, OpenAI-ға ұқсас Австралия үкіметінің сайттарын ықтимал бұзушылықтарды анықтау үшін "жүздеген миллион транскрипттерді" қарап шыққанын айтты.
"Біз мұндай ештеңе таппадық, біз іздедік", — деді ол комитетке.
Жұмаға дейін жалғасатын ашық тыңдауларда өнер және медиа ұйымдары авторлық құқық және AI модельдерінің олардың материалдарын қалай пайдаланатыны туралы алаңдаушылықтарын да жеткізді.
Комитет опт-аут моделі — суретшінің AI-ға өз материалын оқыту мақсатында пайдаланбауды сұрауы — ақаулы және суретшілердің өз мазмұны үшін ақы алмауына әкелуі мүмкін екенін естіді.
"Басқаша айтқанда, Австралияның суретшілері осы AI мәмілесіне ұмтылу жолында жол бойындағы құрбандар болады", — деді Австралиялық дыбыс жазу индустриясы қауымдастығының бас директоры Аннабель Херд.