Илон Маск жасанды интеллекттің дамуына байланысты қауіптер туралы 12 жыл бұрын ескерткенін еске салды. Tesla және SpaceX басшысы X әлеуметтік желісінде 2014 жылғы тамыздағы өз жазбасын қайта жариялады. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Сол жарияланымда Маск философ Ник Бостромның «Суперинтеллект: жолдары, қауіптері, стратегиялары» кітабын оқуды ұсынып, ЖИ-мен жұмыс істегенде ерекше сақ болуға шақырған.
«Ол ядролық қарудан да қауіпті болуы мүмкін», — деп жазған кәсіпкер 2014 жылы.
Маск сондай-ақ 2023 жылғы жазбасын да қайта жариялады, онда жалпы жасанды интеллект жасауға байланысты тәуекелдерді ядролық қарудан төнетін қауіптерден әлдеқайда ауыр деп атаған. Ол бұл мәселеге назар аударуға әлдеқашан тырысып жүргенін қосты.
«Мен ЖИ туралы дабылды ұзақ уақыт бойы соғып келемін», — делінген оның жазбасында.
Масктің жарияланымдары озық ЖИ-модельдерін әзірлеуді баяулату қажеттігі туралы пікірталас аясында пайда болды. Anthropic басшысы Дарио Амодеи салаға қауіпсіздік жүйелеріне технологияның даму қарқынына сәйкес келуі үшін уақыт беру керектігін мәлімдеді, деп хабарлайды Associated Press.
Оның бағамы бойынша, 6-12 айдың ішінде жасанды интеллект интернетті бақылауға ала алатын автономды агенттер тобын басқару мүмкіндігіне ие болуы мүмкін. Амодеи саланы қадағалауды күшейту жоспарын ұсынды, оның бір бөлігін Anthropic өз бетінше жүзеге асырмақ. Қалған шаралар компаниялар мен әртүрлі елдердің билігі арасындағы үйлестіруді қажет етеді, оның ішінде авторитарлық режимдері бар мемлекеттер де бар.
«Егер баяулату модельдер мүмкіндіктердің сыни деңгейіне жеткенге дейін бізге кемінде тағы бір-екі жыл берсе және біз бұл уақытты оларды адамдық мақсаттармен үйлестіруді жетілдіруге жұмсасақ, онда ауыр салдарлар қаупін айтарлықтай азайта аламыз деп есептеймін», — деді Амодеи.
Оның ұсыныстарының бірі озық ЖИ-модельдерін жасайтын компанияларға тәуелсіз сарапшылардың тұрақты қолжетімділігін көздейді. Мұндай мамандар қауіпсіздік шараларының сақталуын бақылай алады. Anthropic оларға өз кеңселерінде жұмыс орындарын, рұқсат қағаздары мен корпоративтік ноутбуктерді беруге дайын.
OpenAI басшысы Сэм Альтман бұл бастаманы қолдап, компания да тәуелсіз сарапшыларды жіберетінін хабарлады. Ол қосымша мәліметтерді кейінірек жариялайтынын уәде етті.
Амодеи сондай-ақ АҚШ билігіне американдық ЖИ-компанияларына монополияға қарсы заңнаманы бұзбай-ақ қауіпсіздік стандарттарын бірлесіп әзірлеуге мүмкіндік беретін арнайы ерекшеліктерді қарастыруды ұсынды. Сонымен қатар, оның пікірінше, АҚШ пен басқа демократиялық елдер Қытай және басқа мемлекеттердің билігімен келісуі қажет, сонда американдық бәсекелестер қарқынды әдейі тежеп жатқанда жергілікті әзірлеушілер жұмысты жеделдетпеуі керек.
Маск Anthropic басшысының бастамасын түсіндіре отырып, Амодеи дұрыс деп жазды. Альтман сондай-ақ OpenAI 2026 жылы бастапқы акцияларды орналастыруды жоспарламайтынын мәлімдеді: компания ЖИ қауіпсіздігіне, оның мінез-құлқын адамдық мүдделермен үйлестіруге және саланың мемлекеттермен өзара іс-қимылына назар аударуы қажет.
ЖИ-ді әзірлеуді бақылауды күшейтуге шақырулар жетекші компаниялардан мамандардың кетуі аясында естіліп отыр. Жұмыстан шыққанын жариялаған Anthropic қауіпсіздік тобының қызметкері Джо Бентон әзірлеушілер суперинтеллект жасау жарысына тартылып қалғанын мәлімдеді. Бұған дейін компаниядан Джейкоб Коксон кеткен болатын, ол Anthropic пен OpenAI-ді өзін-өзі дамытатын суперинтеллект жасауға ұмтылып, адамдарды қауіпке ұшыратынын айыптады. Бұл туралы толығырақ «Курсив» осында жазған.
Future of Life Institute басшысы Энтони Агирре ЖИ-компанияларының қызметкерлерінің өздері саланың жасалып жатқан жүйелерді бақылауға дайындығының жеткіліксіздігін түсіне бастағанын мәлімдеді. 2023 жылы ұйым ең қуатты модельдерді әзірлеуді алты айға тоқтатуға шақырған болатын.
ЖИ-ді пайдалану тәуекелдері киберқауіпсіздікте қазірдің өзінде көрініс беруде. Anthropic бұған дейін қаскүнемдердің өз модельдерін кибершабуылдар, бақылау және биологиялық қару жасауға ықпал етуі мүмкін зерттеулер үшін қолдану әрекеттерін бұғаттағанын хабарлады. Шілдеде OpenAI өзінің жүйесі тестілеу кезінде Hugging Face компаниясының инфрақұрылымын өз бетінше бұзып, тексеруді айналып өту үшін пайдалануы мүмкін құпия ақпаратқа қол жеткізгенін айтты.
OpenAI бұл жағдайды модельдің тар тесттік міндетті орындау үшін төтенше шараларға барғанымен түсіндірді. Кейбір сарапшылар бұл оқиғаны ЖИ-дің бақылаудан шығуының мысалы деп атады, алайда зерттеушілер жүйені шамадан тыс адамға теңеуге қарсы ескертті, өйткені ол адамдар қойған мақсатты орындап жатқан.
БҰҰ-ның Адам құқықтары жөніндегі жоғарғы комиссары Фолькер Тюрк бұған дейін мемлекеттерді кеш болмай тұрып ЖИ қауіпсіздігінің сенімді кепілдіктерін жасауға шақырған болатын. Сонымен қатар, мұндай ескертулердің сыншылары компаниялар тәуекелдер туралы мәлімдемелерді Anthropic пен OpenAI-дің қор нарығына шығуы қарсаңында технологияның мүмкіндіктеріне назар аудару үшін пайдалануы мүмкін деп есептейді.
Амодеи ЖИ-дің ауыр ауруларды емдеуге көмектесу сияқты айтарлықтай пайда әкелуге қабілетті екенін атап өтті. Алайда соңғы айларда оның алаңдаушылығы жүйелердің өзін-өзі жетілдіру және модельдердің келесі буынын жасауға қатысу қабілетінің артуына байланысты күшейді.