OpenAI жақын апталарда Еуроодақта ChatGPT және Codex мәтіндік жауаптарына көрінбейтін су таңбаларын қоса бастайды. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Маркировка мәтін жасау кезінде компания құралдарының пайдаланылғанын анықтауға көмектеседі, делінген OpenAI хабарламасында.
Бірінші кезеңдегі қамту
Алғашқы кезеңде жаңалық ЕО-дағы барлық тарифтік жоспарлардың пайдаланушыларына әсер етеді, бірақ тек маркировкалауға жарамды мәтіндерге қолданылады. Компания оны әзірге бүкіл әлемде әдепкі бойынша енгізуді жоспарлап отырған жоқ. API клиенттері — модельдерді үшінші тарап қызметтеріне қосуға арналған интерфейс — елге қарамастан жекелеген модельдер үшін су таңбаларын өз еркімен қоса алады.
textGrain технологиясы
OpenAI-дың textGrain деп аталатын технологиясы жауап генерациялау кезінде сөздер мен олардың бөліктерін таңдауды байқатпай түзетеді. Нәтижесінде мәтінде арнайы детектор тани алатын статистикалық сурет пайда болады.
Оқырман үшін су таңбасы көрінбейді: жүйе жасырын таңбаларды, әдеттен тыс бос орындарды немесе тыныс белгілерін қоспайды. Маркировка сөздерді таңдаудың өзіне енгізілген және мәтінді көшіру кезінде сақталуы мүмкін. Компанияның деректері бойынша, оның модельдердің жұмыс жылдамдығына әсері шамалы, ал тесттер жауаптар сапасының айтарлықтай нашарлағанын анықтаған жоқ.
Детекторға қолжетімділік
Іске қосу кезінде детектор жалпыға қолжетімді болмайды. Оған қолжетімділік технологияның сенімділігін бағалауға көмектесетін мақұлданған зерттеушілер мен сараптамалық ұйымдарға беріледі.
Сонымен қатар, анықталған су таңбасы пайдаланушының жеке басын, оның сұрауларын немесе хат алмасуын ашпайды. Ол сондай-ақ адамның мәтінді дайындауға қосқан үлесін көрсетпейді және ақпараттың дұрыстығын растамайды.
Технологияның шектеулері
OpenAI технологияның шектеулерін мойындайды. Қысқа мәтіндер мен тұжырымдау таңдауы аз жауаптарды тексеру қиынырақ. Елеулі редакциялау, мазмұндау немесе аудару маркировканы әлсіретуі және оны детектор үшін байқалмайтын ете алады.
Сондықтан су таңбасының болмауы мәтінді адам жазғанын дәлелдемейді. Жүйе сондай-ақ маркировка жоқ жерде оны қате анықтауы мүмкін.
ЕО заңына сәйкестік
OpenAI-да енгізуді генерацияланған контентті машинамен оқылатын маркировкалауды көздейтін жасанды интеллект туралы еуропалық заңды — EU AI Act — сақтау қажеттілігімен түсіндірді.