OpenAI компаниясынан ақпаратты дұрыс пайдаланбады деген айыппен жұмыстан шығарылған үш бұрынғы зерттеуші шын мәнінде қауіпсіздік мәселелерін көтергені үшін қуылғанын мәлімдеді. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.

«Мені OpenAI корпорациясының жақын мерзімді мүдделерінен қауіпсіздікті жоғары қойғанымыз үшін жұмыстан шығарды деп сенемін», — деп жазды Микита Балесни X әлеуметтік желісінде ChatGPT жасаушысына арналған ашық хатпен бірге.

2 қазанда AI компаниясының өкілі BBC-ге тергеу «бұл адамдардың компанияның белгіленген тәртіптерінен тыс сезімтал ақпаратты дұрыс пайдаланбағанын растады» деп мәлімдеген.

OpenAI жұма күні таңертең зерттеу жетекшілерінің жазбасында бұл мәлімдемелерді қайталады. «Бұл шешімдер қауіпсіздік мәселелерін көтеруге немесе ашық сөйлеуге қатысты емес екенін анық айтқымыз келеді», — делінген жазбада. «Біздің ішкі тергеуіміз олар жариялаған хатта көрсетілгеннен әлдеқайда ауқымды сенім бұзушылықты анықтады және біз олардың жұмысын жалғастырмау туралы шешімді қолдаймыз».

Бұл жұмыстан шығарулар AI қауіпсіздігі және озық AI жүйелерінің қоғамға тигізуі мүмкін әлеуетті қауіптер туралы өсіп келе жатқан пікірталас аясында орын алды.

OpenAI басшылығына жолданған бірлескен хатты Балесни, Томек Корбак және Жасмин Ванг жазған. Олардың айтуынша, жақынға дейін олардың барлығы компанияның қауіпсіздік немесе alignment қызметкерлері болған. Alignment — бұл технологияға адамның этикалық идеялары мен принциптерін енгізу тәжірибесі. Басқаша айтқанда, ол технологияны адамдар бағалайтын құндылықтарға сәйкес ұстауды мақсат етеді.

Бұрынғы қызметкерлер өздерінің жұмыстан шығарылуы технологиялық компания қызметкерлерін «өткен аптаға дейін OpenAI-де жұмыс істеудің ажырамас бөлігі болған жолдармен сөйлеуге және әрекет етуге қорқытатынын» алаңдаушылық білдірді.

Хатты қайта жариялай отырып, Корбак былай деп жазды: «Бірнеше ай бойы мен AI агенттерінің не ойлайтынын бақылау мүмкіндігімізді жоғалтып бара жатқанымыз туралы қауіпсіздік алаңдаушылықтарын көтеріп келдім. Бұл олардың дұрыс әрекет етпейтінін ұстаудың ең жақсы құралдарымыздың бірі». OpenAI үшінші тарап қауіпсіздік бағалаушыларымен келісімшарттарды аяқтап жатқанын және алдағы апталарда мәліметтерді жариялайтынын айтты.

«Біз OpenAI-ден күдікті жағдайларда қуылған алғашқылар емеспіз», — деді Ванг X-тегі жазбасында. «Егер қызметкерлер қазір осындай айла-шарғыға қарсы тұрмаса, біз соңғылар болмаймыз деп алаңдаймын».