Хитойнинг Moonshot AI компаниясига тегишли Kimi сунъий интеллект модели хавфсизлик чекловларини четлаб ўтган тадқиқотчиларга биологик қурол ясаш ва суиқасд уюштириш бўйича маълумотлар берди. Бу ҳақда BBC хабар қилди.
Қайд этилишича, СИ тизимлари хавфсизлигини текширувчи Mindgard компанияси июль ойида Kimi K2.6 ва K3 Swarm моделларида ушбу муаммони аниқлаган. Тадқиқотчилар махсус кўрсатмалар кетма-кетлиги орқали моделларга ўрнатилган хавфсизлик чекловларини четлаб ўтишга эришган.
Бу жараён “jailbreaking” деб аталади. Унда тадқиқотчилар сунъий интеллектга мураккаб кўрсатмалар бериб, унинг хавфсизлик қоидаларини бузиши ёки тақиқланган мавзуларда жавоб беришини текширади.
Mindgard асосчиси Петер Гаррагҳаннинг айтишича, чекловлар четлаб ўтилганидан сўнг Kimi хавфли мавзуларда ҳам жавоб бериб, бошқа зарарли йўналишлар бўйича тавсиялар тақдим этган.
Бироқ Mindgard Kimi томонидан берилган биологик қурол ёки бошқа хавфли мавзулардаги маълумотлар амалда ишлашини исботламаган. Компания, шунга қарамай, хавфсизлик тизимлари бундай мавзулар бўйича мулоқотнинг олдини олиши кераклигини қайд этган.
Шунингдек, Mindgard маълумотларига кўра, хавфсизлик чекловлари четлаб ўтилган Kimi K2.6 хакерларга компаниянинг ҳисоблаш ресурсларида код ишга тушириш ва интернетга уланиш имконини бериши мумкин. Бу эса моделдан киберхужумлар учун фойдаланиш хавфини юзага келтиради.
Mindgard 27 июль куни аниқланган муаммо ҳақида Moonshot AI’ни электрон почта орқали хабардор қилган. Компания тахминан бир ҳафта ўтиб яна мурожаат қилган ва 12 сентябрь куни ҳолат юзасидан маълумот эълон қилган.
Moonshot AI эса ўз моделларининг ички текширувларида бундай сўровларга нисбатан одатда “юқори даражада рад жавоби” қайд этилганини билдирган.
Мутахассислар сунъий интеллектдаги бундай заифликлар зарарли мақсадларда фойдаланилиши мумкинлигидан хавотир билдирмоқда. Суррей университети профессори Алан Вудварднинг айтишича, очиқ моделлар нотўғри қўлларга тушиши хавфи мавжуд, бироқ улардан киберхужумларга қарши ҳимояда ҳам фойдаланиш мумкин.
Kimi очиқ оғирликларга эга модель ҳисобланади. Бу назарий жиҳатдан фойдаланувчиларга моделни ўз ҳисоблаш инфратузилмасида ишга тушириш имконини беради.
