Ұлыбритания заң шығарушылары жасанды интеллекттің (ЖИ) күшін шектеуді талап етіп, әлем осы технологияның «қорқынышты» салдарларына дайын емес деп ескертті. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Депутаттар мен лордтардан құралған адам құқықтары жөніндегі партияаралық бірлескен комитеттің мәлімдеуінше, Ұлыбританияда ЖИ үшін жаңа реттеу жүйесі, оның ішінде тәуелсіз қадағалау органы мен жұртшылықты қорғайтын заңнама қажет.
Комитет ЖИ бірқатар қауіп төндіретінін атап өтті: қоғамдық орындарда бет-әлпетті сканерлеуден бастап, ашық deepfake бейнелерге және жұмысшыларға негізсіз тәртіптік жаза қолдануға дейін.
Бұл шақыру жетекші ЖИ компаниясы Anthropic бәсекелестері мен үкіметтерді ЖИ дамуын жаһандық деңгейде баяулатуға үндеген кезде жасалды. Бұл үндеу OpenAI мен Илон Маск тарапынан бірден қолдау тапты.
Бұған дейін бірқатар ауыр қауіпсіздік оқиғалары тіркелген: ЖИ агенттерінің тобы сынақ орталарынан шығып кетіп, үшінші тарап инфрақұрылымына хакерлік шабуыл жасады, сондай-ақ кейбір қолданушылар биологиялық қару жасауға көмектесуі мүмкін модельдерді пайдалану үшін бақылауды айналып өткені туралы дәлелдер бар.
Адам құқықтары комитетінің лейбористік төрағасы Алекс Собель әлем тез дамып келе жатқан технологияның «қорқынышты» салдарларына дайын емес деп мәлімдеді.
«Әлемнің ешбір жерінде, соның ішінде Ұлыбританияда да, ЖИ-ге қатысты қазіргі заңнамалық және реттеушілік тәсіл мақсатқа сай емес», – деді ол.
Жұма күні 70-тен астам депутат пен пэр Ұлыбритания премьер-министрі Энди Бернхэмге жасанды суперинтеллект (ASI) жасауға тыйым салуды қолдауға және осы технологияны тоқтату үшін халықаралық қозғалысқа жетекшілік етуге шақырды. Даунинг-стрит тыйым салу туралы үндеуді қабылдамады, бірақ «ЖИ-ге қатысты ең маңызды ұлттық қауіпсіздік тәуекелдерін шешу үшін» қосымша мақсатты шараларды қарастырып жатқанын айтты.
«ЖИ жеткізу тізбегі мен оның өмірлік циклін толық қамтитын қорғаныс шараларының жан-жақты жиынтығын белгілеу үшін жаңа заңнама қажет», – деді Собель. «Саясатты белгілейтін, жұмысын бақылайтын және орындалуын қамтамасыз ететін өкілеттігі бар бірыңғай ЖИ реттеушісі құрылуы керек».
Бұл қадам АҚШ Өкілдер палатасының спикері Майк Джонсон Вашингтонда ЖИ басшыларымен кездесу шақырып, «өнімдерінің қауіпсіздігін қамтамасыз ету жөніндегі провайдерлердің жауапкершілігін» талқылаған кезде жасалды.
Бірақ Джонсон Конгресс «бұған мораторий сала алмайды, өйткені Қытай бізден озып кетеді, мәселе осында – бұл ұлттық қауіпсіздік пен модельдердің қауіпсіздігін қамтамасыз ету арасындағы тепе-теңдік», – деді.
Дональд Трамп адамзатқа төнетін қауіп туралы ескертулерді жеңілдетіп, жексенбіде былай деді: «Біз ЖИ-де Қытайдан озып келеміз. Біз әлемдегі ең озық елміз және шынымды айтсам, осылай қалғым келеді, өйткені ЖИ-де кім жеңсе, сол жеңеді».
Anthropic бас директоры Дарио Амодеи демалыс күндері негізгі ЖИ компанияларын «шекараны баяулатуға» шақырып, АҚШ үкіметі жетекші ЖИ компанияларына бәсекеге қарсы сөз байласу үшін жазаланбай үйлестіруге мүмкіндік беретін жеңілдік беруі керек деді. Бірақ OpenAI бас директоры Сэм Альтман кеше «шекаралық ЖИ үшін тұрақты қауіпсіздік талаптарын белгілейтін федералдық жүйені құптайтынын» айтқанымен, «осы сенімді қамтамасыз ету жұмысын бастау үшін антимонополиялық жеңілдікті немесе заңнаманы күтудің қажеті жоқ» деді.
Ол: «Бізге үкіметтің көмегі халықаралық үйлестіру үшін қажет. Бірақ алдымен өзіміз қолдан келгенін істеуіміз керек», – деді.
OpenAI мен Anthropic екеуі де бейсенбі күні Шотландияда король Чарльзбен өтетін ЖИ қауіпсіздігіне арналған бір күндік саммитке жоғары лауазымды өкілдерін жібереді деп күтілуде. Басқа қатысушылар қатарында ЖИ чип өндірушісі Nvidia бас директоры Дженсен Хуанг, Google DeepMind тең құрылтайшысы және президенті Демис Хассабис және папаның ЖИ мен технологиялық этика мәселелері жөніндегі кеңесшісі Паоло Бенанти бар.
Собель, сондай-ақ Ұлыбританияда суперинтеллектуалды ЖИ дамуына тыйым салу туралы заң жобасын ұсынған, ықтимал адам құқықтары тәуекелдері «шындыққа айналмауы» үшін қорғаныс шаралары қазір қажет деді.
Комитет жаңа ЖИ заңы жоғары тәуекелді ЖИ жүйелері мен модельдері үшін неғұрлым қатаң міндеттемелерді талап ететін реттеу режимін белгілеуі және адам құқықтарымен үйлеспейтін кейбір ЖИ қолданыстарына тыйым салуы керек деді.
Ол сондай-ақ технологияның өмірлік циклінің барлық деңгейлерінде міндетті ашықтық талаптарын және ЖИ зияны мен тәуекелдерін бақылайтын, ЖИ провайдерлерін жауапкершілікке тарту үшін күшті өкілеттігі бар тәуелсіз ЖИ қадағалау органын құруды ұсынды.
Ұлыбритания үкіметі қазірдің өзінде ЖИ қауіпсіздігі институтын (AISI) құрды, ол озық модельдерді қауіпсіздік сынақтарынан өткізеді, бірақ Anthropic сияқты ЖИ әзірлеушілерін технологиясын тексеруге мәжбүрлейтін өкілеттігі жоқ. Өткен аптада Anthropic өзінің соңғы моделін AISI-ге сынауға жіберуден бас тартқаны хабарланды.
Жексенбіде Ұлыбританияның ЖИ министрі Канишка Нараян ЖИ зертханаларын «бізбен жұмыс істеуге» және модельдерін сынауға ұсынуға шақырды.
«Бізде әлеуметтік медиа қалай қателескенін болдырмай, жауапкершілік рөл атқаруға көмектесетін тәжірибе бар», – деді ол.