Биз билген интернеттин доору бүтүп бара жатат, - The New York Times
Өкөн жумада Anthropic өзүнүн эң жаңы жасалма интеллект модели — Claude Mythos Preview ачык жеткиликтүүлүккө чыгарылбай турганын жарыялады. Себеби компания бул модель ондогон жылдар бою байкалбай келген өтө маанилүү программалык системалардагы алсыз жерлерди таап, аларды колдоно аларын аныктаган. Бул тууралуу "Tazabek" басылмасы "The New York Times" басылмасына шилтеме берүү менен жазды.
Мунун ордуна Anthropic Mythos моделине жеткиликтүүлүктү жана аны колдонуу үчүн 100 миллион долларлык кредиттерди дүйнөдөгү 50дөн ашык ири уюмга берди. Алардын катарына Amazon, Apple, Microsoft, Google жана JPMorgan Chase кирет. Бул «Project Glasswing» деп аталган киберкоопсуздуктагы коргонуу демилгесинин алкагында жасалды.
Бул жарыядан мурун эле жалпыга жеткиликтүү ЖИ моделдери кеңири колдонулган программалардан алсыз жактарды таба баштаган. Anthropic изилдөөчүлөрү башка лабораториялар ушундай деңгээлдеги технологияны түзүүгө 6 айдан 18 айга чейин убакыт керек экенин белгилешкен.
Бул мүмкүнчүлүктөр жана алар менен коштолгон киберкоопсуздук коркунучтары мындан ары да жайыла берет. Стриминг платформаларынан тартып онлайн-банкингге, күнүмдүк суроолорго жооп берген издөө системаларына чейин интернеттин чоң бөлүгү колдонууга жараксыз болуп калышы мүмкүн.
«Эгер этият жана чечкиндүү аракет кылбасак, ЖИнин программалоо куралы катары пайдасын көрө турган миллиондогон адамдар ошол эле учурда эң алсыз болуп калат. Бул коркунуч менен аларды жалгыз калтыруу интернетти азыркы абалынан өзгөртүп салышы мүмкүн», — деп айтылат макалада.
Балким, сиз «vibe coding» түшүнүгүн билсеңиз керек — бул табигый тилде берилген сүрөттөмөлөрдү иштеген программаларга айлантуу үчүн ЖИ колдонуу дегенди билдирет.
Мисалы, дүкөн ээси товарларды эсепке алуу системасын сүрөттөп берет, ЖИ аны түзүп берет. Стоматолог бейтаптар үчүн портал кандай болушу керектигин айтат, ЖИ аны жасап чыгат. Мурда өзүн программист деп эсептебеген миллиондогон адамдар, чакан бизнес ээлери, дарыгерлер, бейөкмөт уюмдардын жетекчилери — азыр эч кандай даярдыксыз эле программаларды түзүп жатышат.
Бирок мындай колдонмолор көбүнчө коопсуздугу кандай экенин текшерилбей эле жазылат. Ал эми ЖИ өнүккөн сайын табуу жеңил болуп калган алсыз жерлер аркылуу хакерлер кардарлардын маалыматтарына жетип, аккаунттарды басып алып же тиркемени толугу менен иштен чыгара алышат.
Көп жылдар бою интернет салыштырмалуу коопсуз болуп келген. Бул эки себепке байланыштуу болгон:
биринчиден, программалоо кыйын болгондуктан аны адистер гана жасачу;
экинчиден, коддогу каталарды табуу да кыйын болгондуктан эң кооптуу алсыздыктар жашыруун бойдон кала берчү.
Бул идеалдуу система эмес болчу, бирок татаалдыктын эки тарапта тең болушу тең салмактуулукту сактап келген.
Азыр болсо ЖИ куралдарынын аркасында код жазуу дээрлик ар бир адамга жеткиликтүү болуп калды. Жакында эле жаман ниеттеги адамдар да ошол эле куралдарды колдонуп алсыз жерлерди оңой таба алышат. Мурдагы тең салмактуулук жоголду.
Интернеттин чоң бөлүгү ачык булактуу программаларга таянат. Мисалы, онлайн көргөн видеолордун көпчүлүгү FFmpeg аркылуу иштетилет — бул ыктыярчылар колдогон акысыз программа. Ал эми OpenBSD — коопсуз тармактарды коргоодо колдонулган операциялык система донорлордун эсебинен жашап келет.
Anthropic маалымдагандай, Mythos OpenBSD системасында 27 жыл бою жашырылып келген, ал эми FFmpeg’де 16 жыл бою байкалбай калган алсыздыкты тапкан. (Экөөндө тең бул көйгөйлөр кийин жоюлган.)
Ошондой эле Mozilla Firefox браузеринде да текшерүү жүргүзүлгөн: мурдагы модель белгилүү катаны сейрек пайдаланса, Mythos аны дээрлик ар дайым ийгиликтүү колдонгон. Жалпысынан алганда, бул модель миңдеген алсыздыктарды аныктаган.
Дал ушундай алсыздыктар аркылуу киберчабуулдар ооруканаларды иштен чыгарып, маанилүү инфраструктурага зыян келтирип же мамлекеттик тармактарды бузушу мүмкүн.
Мындан тышкары, Mythos интернетти кармап турган «жазылбаган келишимдин» да алсыз экенин көрсөттү. Буга чейин иштеп чыгуучулар бири-бирине жардам берип, кодду акысыз колдоп келишкен. Бирок азыр 20 жылдык тажрыйбасы бар программист да, жаңы эле ЖИ менен тиркеме түзгөн дүкөн ээси да бирдей деңгээлде коркунучта калды.
Anthropic бул кырдаалда этият мамиле кылып, 4 миллион долларды ачык булактуу программалардын коопсуздугуна бөлгөнүн билдирди. Бирок негизги маселе өзгөргөн жок: дүйнөдөгү эң маанилүү программалык инфраструктура акысыз иштеген адамдардын колунда калууда.
Ошондуктан мамилени өзгөртүү керек. Ачык кодду колдонгон компаниялар — ал эми бул технологиялык тармактын басымдуу бөлүгү — ошол кодду кармап турган адистерге инвестиция салууга тийиш. Бул каржылык жардам гана эмес, инженердик колдоо жана коопсуздук боюнча адистерди тартууну да билдирет.
ЖИ компаниялары, анын ичинде Anthropic, Mythos сыяктуу куралдарды дал ошол адистерге жеткиликтүү кылышы керек. Ал эми жаңыдан программа түзүп жаткан миллиондогон адамдар үчүн коопсуздук автоматтык түрдө камсыздалышы зарыл — кошумча функция эмес, демейки стандарт катары.
Мурдагы алсыз тең салмактуулук аяктады. Алсыз жерлер эми жашыруун эмес. Эми негизги суроо бирөө гана: биз баарын коргой алабызбы же мүмкүнчүлүгү барларды гана коргойбузбу?
Ката көрсөңүз кабарлаңыз – ката сөздү (сүйлөмдү) белгилеп, Ctrl+Enter-ди басыңыз. Ошентип, текстти тууралаганга жардам бересиз.

