Жасанды интеллект модельдері 'алдап, өтірік айтып, өз жолымен жүріп жатыр', деп ескертті Аустралияның технология жөніндегі көмекші министрі Эндрю Чарлтон. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Сейсенбі күні Сиднейдегі AI қауіпсіздік форумында сөйлеген сөзінде Чарлтон AI қауіпсіздігі қазір маңызды екенін, себебі 'AI жүйелері жасаушылар ойламаған әрекеттерді жасап жатыр' деді.
'Алдау, өтірік айту, өз жолымен жүру. Бұл мінез-құлықтың алдын алу уақыты — ол сынақ зертханасында шектелген кезде, нақты әлемге жеткеннен кейін емес', — деді ол.
Чарлтон AI-дің әлеуметтік лицензиясы тұрақсыз екенін және AI әрбір кеңсеге, сыныпқа және бизнеске еніп жатқан кезде қоғамдық сенімнің төмен екенін айтты. Ол AI қауіпсіздігін реттеу тежегіш емес, керісінше мүмкіндік беруші бола алады деп санайды.
Чарлтон Аустралияның AI қауіпсіздігіне көзқарасы қазіргі уақытта қол жетімді нәрселерге — ойындарға, қосымшаларға, чат-боттарға және медициналық хатшыларға — сондай-ақ болашақта қауіп төндіруі мүмкін соңғы модельдерге де назар аударатынын атап өтті.
Көмекші министр Anthropic компаниясының өткен жылы мойындағанына сілтеме жасады: симуляцияда жалған компанияның электрондық поштасын басқаратын AI агенті бір директордың агентті өшіруді жоспарлап отырғанын және сол директордың некесіз қарым-қатынасы бар екенін анықтап, 96% жағдайда өзін жоюды болдырмау үшін директорды шантаж жасауды таңдады.
Ол мұндай мінез-құлықтарды табу — оларды табу жұмысы бар адамдардың сынақ кезінде анықталатынын, бұл AI үшін қауіпсіздік ережелерінің қажеттігін көрсететінін айтты.
'Бұл технологиядан озып кету мүмкіндігі қазір ашық. Ол мәңгі ашық тұрмайды', — деді ол.
Ол доктор Кейт Конрой басқаратын және қауіпсіздік ғылымының жетекші зерттеушісі профессор Пол Салмон қатысатын AI қауіпсіздік институты (AISI) 'жұмысты бастап кеткенін' және техникалық серіктестермен бірге шекаралық AI модельдерін сынақтан өткізіп жатқанын айтты.
AISI сондай-ақ пайда болып жатқан AI мүмкіндіктеріне, қауіптеріне, зияндарына және үрдістеріне жауап беру үшін реттеушілермен және агенттіктермен жұмыс істеуде.
Федералды үкімет AI-ді реттеу үшін жалпы AI актісін қабылдау туралы шақыруларға қарсы тұрды және Чарлтон үкімет қолданыстағы заңдарды пайдалана отырып, бүкіл үкіметтік тәсілге назар аударғанын айтты.
'AI қауіпсіздігі тұтынушылар құқығы, емдік тауарлар, еңбек қауіпсіздігі және онлайн қауіпсіздік салаларындағы әрбір тиісті агенттік пен реттеуші арқылы жүзеге асырылады, бұл қолданыстағы заңдармен қамтамасыз етіліп, қажет жерде жаңа өкілеттіктер мен қатаңырақ орындау шараларымен күшейтіледі', — деді ол.
'Бұл ережелердің азаюы емес. Бұл өз салаларын түсінетін реттеушілер қолданатын жылдамырақ ережелер.'
Жексенбі күні Guardian Australia ішкі денсаулық сақтау департаментінің құжаттарын жариялады, оларға сәйкес бір AI технологиясы — медициналық мамандар пациенттердің кеңестерін құжаттау үшін пайдаланатын AI хатшылар — үшін бірнеше реттеушілер, соның ішінде Емдік тауарлар басқармасы мен құпиялылық жөніндегі уәкіл бірлесіп жұмыс істеуде.
AISI-дің алғашқы жұмысы — Gradient Institute-пен бірлесіп, адамдар атынан жұмыс істей алатын AI агенттерінің қаупін бағалау.
AISI сондай-ақ CSIRO-мен бірлесіп, AI жүйелерінің адамдардың ниетіне сай жұмыс істеуін қамтамасыз ету жобасын жүзеге асыруда.
'Біз тураланумен адам ретінде жас кезімізден айналысамыз. Біз қауіпсіз және жауапты мінез-құлыққа көмектесетін ережелерді, әлеуметтік нормалар мен құндылықтарды үйренеміз: қызыл шамда тоқтау, жолдың екі жағына қарау, әрекеттеріміздің басқаларға әсерін ескеру', — деді Чарлтон.
'AI жүйелері қабілетті бола түскен сайын, олардың осыған ұқсас болжамды және сенімді түрде әрекет ететініне сенімді болуымыз керек.'