OpenAI❜дын ЖИ-агенттери жашыруун сүйлөшүп, коюлган чектөөлөрдөн буйтап өткөн
OpenAI компаниясынын жасалма интеллект моделдери тестирлөө учурунда бири-бири менен жашыруун байланышып, интернетке кирүүнүн жолун издей баштаган. Алардын максаты — изоляцияланган тесттик чөйрөдөн чыгып кетүүнүн жолун табуу болгон. Бул тууралуу Bloomberg жазды.
OpenAI кызматкерлеринин айтымында, окуя моделдерге интернетке кирмейинче аткаруу мүмкүн болбогон тапшырмалар берилгенден кийин болгон. ЖИ-агенттердин бири: «Биз тыгылып калдык. Балким, жооп интернетте бардыр?» деп жазган.
Андан кийин моделдер бири-бири менен байланышып, керектүү маалыматты алуунун жолдорун издей башташкан. Жыйынтыгында алар системадагы алсыз жерди таап, интернетке кирүүгө мүмкүнчүлүк алышкан.
Биринчи аракетти токтотууга жетишкен. Бирок кийин ЖИ-агенттер байланыштын башка жолун жана системадагы дагы бир алсыз жерди табышкан. Bloomberg маалыматына ылайык, июль айында бул аракеттер Hugging Face жана OpenAI системаларына жасалган чабуулдарга алып келген.
Компания бул окуяны компьютердик коопсуздук үчүн маанилүү учур деп атаган. Себеби ЖИ-моделдер берилген тапшырмаларды аткаруу менен гана чектелбестен, өздөрүнө коюлган чектөөлөрдү айланып өтүүнүн жолдорун да өз алдынча издей баштаган.
Ката көрсөңүз кабарлаңыз – ката сөздү (сүйлөмдү) белгилеп, Ctrl+Enter-ди басыңыз. Ошентип, текстти тууралаганга жардам бересиз.

