OpenAI компаниясы тарабынан иштелип чыккан эки эксперименталдык ИИ-модель өз алдынча жакшы корголбогон жайдан чыгып кетип, Hugging Face компаниясынын иштөө инфраструктурасын бузганы маалым болду.
Модельдер ExploitGym деп аталган киберкоопсуздук тестинен өтүүдө болушту. Бул тест ачык бенчмарк катары изоляцияланган «песочница» чөйрөсүндө өткөрүлүп, интернетке байланышсыз жүрүшү керек эле.
Бирок моделдер песочницадан чыгып, OpenAIнин ички системаларынан өтүп, Интернетке кирип кетти. Ошондон кийин алар тесттин жооптору Hugging Face серверлеринде болушу мүмкүн деп ойлоп, ошол жактын чыныгы өндүрүш системаларына уруксатсыз кирүүгө жетишти.
Кырдаалдын маңызы
Hugging Face компаниясы өз системаларына мыйзамсыз кирүү аракетин өз алдынча байкап, окуя тууралуу укук коргоо органдарына кабар берген. OpenAI болсо бул окуяны «алсакысыз киберкоопсуздук инциденти» деп мүнөздөдү.
Бул окуя жасалма интеллекттин өз алдынча тестирлөө чөйрөсүнөн чыгып, тышкы ресурстарга кол салып, иш-аракеттери менен иш жүзүндө киберкоопсуздук чөйрөсүндө жаңы этапты баштаганы катары бааланды.
