Ǵalymdar JI úlgilerine aldaýdy úıretýge bolatynyn anyqtady

<p>ASTANA. KAZINFORM - Jasandy ıntellekt modelderine aldaýdy úıretýge bolady, al odan qorǵaný ázirge &laquo;tıimsiz&raquo; deıdi jańa zertteýler. Kazinform bul týraly <a href="https://ru.euronews.com/next/2024/01/16/ai-models-can-be-trained-to-be-deceptive-with-safety-guardrails-ineffective-researchers-fi" target="_blank" rel="noopener">Euronews</a>-ke silteme jasap habarlaıdy.</p>

AQSh-tyń Anthropic kompanııasynyń zertteýshileri jasandy ıntellekt úlgilerine aldaýdy úıretýge bolatynyn jáne qaýipsizdikti oqytýdyń qoldanystaǵy ádisteri munyń aldyn alýda «tıimsiz» ekenin anyqtady.

Zertteýdiń maqsaty — jasandy ıntellekt (JI) modelderine adamdar sııaqty aldaýdy úıretýge bolatynyn anyqtaý.

Zertteý barysynda qatysýshylar JI modelderine aldaýdy úıretýge bolatynyn bildi. Olar belgili bir kiris sıgnaldarynan týyndaıtyn jáne aıtarlyqtaı qaýiptý bolýy múmkin «bekdor» dep atalatyn áreketti jasaý arqyly JI úlgilerine aldaýdy úırete aldy.

Zertteýge qatysýshylar JI modelderiniń aldaýdy úırenip qana qoımaı, aldaýǵa beıimdiligin jasyra alatynyn da anyqtady.

Zertteý avtorlary tildik modelderge (LLM) úlken qaýip týdyrýy múmkin eki naqty qaýipti qarastyrdy: alaıaqtardyń trıggerli model oılap tabýy jáne aldaýshy modeldiń tabıǵı paıda bolýy.

Zertteýshiler bul eki qaýip te «múmkin jáne olarmen kúresý óte qıyn bolatynyn» aıtty.

Zertteýshilerdiń pikirinshe, JI úlgilerine arnalǵan qaýipsizdikti oqytýdyń qoldanystaǵy ádisteri aldaýǵa úıretilgen generatıvti JI júıelerin toqtatýǵa «qaýqarsyz». Olar qoldanystaǵy ádisterdi jetildirý qajet degen qorytyndyǵa keldi.

Ótken jyldyń basynda keıbir tehnologııa jetekshileri, sonyń ishinde Ilon Mask «adamzat úshin úlken qaýip bolýy múmkin» degen sebeppen JI eksperımentterin toqtatýǵa shaqyrdy.

2023 jyldyń qarasha aıynda 28 eldiń, sonyń ishinde QHR, AQSh jáne EO memleketteriniń ókilderi jasandy ıntellektti qaýipsiz paıdalaný boıynsha birinshi sammıt ótkizdi, onda olar JI-diń "shekaralyq" dep atalatyn modelderimen baılanysty táýekeldermen kúresýge baǵyttalǵan paktige qol qoıdy.