Жогорку кооптуулуктагы жасалма интеллект тутумдарына карата тобокелдиктерди башкарууга (Кыргыз Республикасынын Министрлер Кабинетинин токтому менен бекитилди) талаптар

2-тиркеме

(Кыргыз Республикасынын Министрлер Кабинетинин 2025-жылдын 2-декабрындагы № 770 токтому менен бекитилди)

Жогорку кооптуулуктагы жасалма интеллект тутумдарына карата тобокелдиктерди башкарууга талаптар

1. Ушул Жогорку кооптуулуктагы жасалма интеллект тутумдарына карата тобокелдиктерди башкарууга талаптар (мындан ары - Талаптар) Кыргыз Республикасынын Санарип кодексине ылайык иштелип чыккан жана корголуучу байлыктарга зыян келтирүү тобокелдиктерин (зыяндын келип чыгуу ыктымалдыгы, анын өлчөмү) башкаруу системасына карата минималдуу милдеттүү критерийлерди белгилейт.

2. Ушул Талаптардын жоболору уюштуруу-укуктук формасына, ведомстволук (тармактык) таандыктыгына жана менчигинин түрүнө карабастан жогорку кооптуулуктагы жасалма интеллект тутумдарынын бардык ээлери тарабынан колдонуу үчүн милдеттүү.

3. Кандай болбосун жасалма интеллект тутумдарынын бардык ээлери кооптуулук даражасына карабастан, мындай тутумдарды долбоорлоодо, иштеп чыгууда, ишке киргизүүдө жана колдонууда адамдардын өмүрүнө жана саламаттыгына, адамдын жана жарандын укуктарына жана эркиндиктерине, айлана-чөйрөгө, мамлекеттин коргонуу жөндөмдүүлүгүнө жана улуттук коопсуздугуна, коомдук тартипке (корголуучу байлыктарга) зыян келтирүү тобокелдиктерин минималдаштыруу үчүн бардык жөндүү жана зарыл чараларды көрүүгө милдеттүү.

Жогорку кооптуулуктагы жасалма интеллект тутумдарына карата тобокелдиктерди башкаруунун милдети болуп мындай тутумдарды колдонууда корголуучу байлыктарга зыян келтирүү ыктымалдыгын жана ал келип чыккан учурда мындай зыяндын чоңдугун жоюу же алгылыктуу маанилерге чейин минималдаштыруу саналат. Жогорку кооптуулуктагы жасалма интеллект тутумдарын колдонууда корголуучу байлыктарга келтирилген зыян үчүн жоопкерчиликти Кыргыз Республикасынын колдонуудагы мыйзамдарына ылайык аны келтирүүгө күнөөлүү адамдар тартат.

4. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери ушул Талаптарга жана Кыргыз Республикасынын Санарип кодексине ылайык келген талаптагыдай тобокелдиктерди башкаруу системасын киргизүүгө жана мындай тутумдардын бүткүл иштөө циклинин ичинде колдоого милдеттүү.

Кыргыз Республикасынын мыйзамдарынын башка ченемдерине (банк сектору, критикалык инфраструктура объекттери жана башкалар) ылайык тобокелдиктерди башкаруу боюнча чараларды ишке ашыруу талаптары жайылтылган жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери үчүн ушул Талаптардын жоболору тобокелдиктерди башкаруу боюнча жалпы жол-жоболордун бир бөлүгү болушу же алар менен айкалыштырылышы мүмкүн.

5. Жасалма интеллект тутумдарынын ээлеринин кесиптик бирикмеси өзүнүн катышуучулары үчүн милдеттүү болгон, жогорку кооптуулуктагы жасалма интеллект тутумдарын долбоорлоодо, иштеп чыгууда, ишке киргизүүдө, колдонууда тобокелдиктерди башкарууга тиешелүү болгон эрежелерди камтыган регламентти бекитүүгө укуктуу.

Мындай регламенттин жоболору кесиптик бирикменин катышуучулары тарабынан Кыргыз Республикасынын Санарип кодексине жана ушул Талаптарга каршы келбеген бөлүктө колдонулат.

6. Ушул Талаптарда колдонулган терминдер жана түшүнүктөр Кыргыз Республикасынын Санарип кодексинде көрсөтүлгөн маанилерде колдонулат.

тутумдарына карата тобокелдиктерди башкарууга негизги талаптар

7. Жогорку кооптуулуктагы жасалма интеллект тутумдары үчүн тобокелдиктерди башкаруу ар бир мындай тутум үчүн төмөнкүлөрдү болжолдоого тийиш:

1) бул тутумду максаттуу жана жөндүү божомолдонгон максатсыз пайдаланууда келип чыгышы мүмкүн болгон, бул тутумду колдонууга байланышкан белгилүү жана божомолдонгон тобокелдиктерди аныктоо жана документтештирүү;

2) 1-пунктта көрсөтүлгөн тобокелдиктерди эсептөө жана баалоо, анын ичинде терс кесепеттердин ыктымалдуулугун жана масштабын баалоо;

3) аны ачык максатсыз пайдаланууда же жогорку кооптуулуктагы жасалма интеллект тутумунун иштеп чыгуучусу тарабынан белгиленген эрежелерди бузуу менен пайдаланууда мүмкүн болуучу (ыктымалдуу) башка тобокелдиктерди бул тутумду жана ага окшош тутумдарды эксплуатациялоонун жүрүшүндө алынган бул тутумдун ээсине белгилүү болгон маалыматтардын негизинде баалоо;

4) тобокелдиктерди башкаруу боюнча чаралар, башкача айтканда аныкталган ар бир тобокелдикке карата терс кесепеттердин ыктымалдыгын жана масштабын азайтуу боюнча зарыл болгон чаралар;

5) тобокелдиктерди башкаруу боюнча көрүлүп жаткан чаралардын натыйжалуулугун баалоо тартиби жана аларды ишке ашыруу жөнүндө чогултулган маалыматтардын негизинде аларга өзгөртүүлөрдү киргизүү.

8. Тобокелдиктерди башкаруу жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери тарабынан Кыргыз Республикасынын Санарип кодексинин, ушул Талаптардын жоболорун жана жалпы таанылган дүйнөлүк практиканы эске алуу менен өз алдынча аныкталган методика боюнча жүзөгө ашырылат.

9. Тобокелдиктерди башкаруу жогорку кооптуулуктагы жасалма интеллект тутумдарын аларга кирген бардык технологиялары, функционалдык мүмкүнчүлүктөрү жана тышкы чөйрөсү менен эске алууга тийиш.

10. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери тобокелдиктерди башкаруу үчүн зарыл болгон ресурстарды (адамдык, финансылык, техникалык жана башка) өз алдынча аныктайт.

11. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери тобокелдиктерди башкарууну өз алдынча, ошондой эле үчүнчү жактарды тартуу менен да жүргүзүүгө укуктуу.

12. Жогорку кооптуулуктагы жасалма интеллект тутумдарына карата тобокелдиктерди башкаруу төмөнкү жалпы принциптерге негизделүүгө тийиш:

1) тобокелдиктерди башкаруу процесстеринин системалуулугу, түзүмдүүлүгү жана өз убагында аткарылышы;

2) тутумдардын ээлеринин ички уюштуруу процесстеринде, жогорку кооптуулуктагы жасалма интеллект тутумдарында же аларды колдонуу чөйрөсүндө бардык өзгөрүүлөргө карата адаптациялануусу;

3) бардык кызыкдар тараптардын кызыкчылыктарын, анын ичинде жогорку кооптуулуктагы жасалма интеллект тутумдарынын колдонуучуларынын кызыкчылыктарын, жүрүм-турумдук жана маданий факторлорду эске алуу;

4) проактивдүүлүк, жаңы жана өзгөргөн тобокелдиктерди алдын ала көрүүгө, табууга жана чара көрүүгө багытталгандык.

13. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери релеванттык тобокелдиктерди аныктоо үчүн төмөнкүлөрдү эске алат:

1) ал тарабынан аныкталган жогорку кооптуулуктагы жасалма интеллект тутумдарын пайдалануу максаттарын;

2) ээлери тарабынан жөндүү божомолдонгон мындай тутумдарды максатсыз жана/же аларды эксплуатациялоо эрежелерин бузуу менен колдонуу;

3) жогорку кооптуулуктагы жасалма интеллект тутумдарынын жеке адамдарынын жана колдонуучуларынын топторунун категорияларын, алардын тутумдарды колдонуудан күтүүлөрүн, ошондой эле мындай колдонуучулардын маданий, этикалык, тилдик жана ээлерине белгилүү болгон башка өзгөчөлүктөрүн;

4) тутумдарды колдонуунун айрым адамдарга, коомчулукка, уюмдарга, жалпысынан коомго мүмкүн болгон потенциалдуу оң жана терс таасирлерин, 18 жашка толо элек адамдарга же адамдардын башка аялуу топторуна терс таасирин тийгизүү мүмкүндүгүн.

14. Тобокелдиктер аныкталганда тутумдардын ээлери эл аралык жана башка уюмдар тарабынан иштелип чыккан жана жарыяланган тобокелдиктердин классификаторлорун (таксономияларын), ошондой эле изилдөөлөрдү, консультацияларды жана кайтарым байланыш механизмдерин колдоно алат.

15. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери аныкталган тобокелдиктерди документтештирүүнү камсыз кылууга, ошондой эле аларды тутумдун дизайнына жана эксплуатацияланышына ылайыкташтырууга милдеттүү.

Жогорку кооптуулуктагы жасалма интеллект тутумдарын колдонууга байланышкан тобокелдиктер мындай тутумдардын колдонуучулары тутумдарды колдонууну баштаганга чейин алардын сыпаттамасына жеткиликтүүлүк ала алгыдай ачык бөлүп көрсөтүлүүгө тийиш.

16. Ар бир аныкталган тобокелдикти эсептөө жана баалоо анын келип чыгуу ыктымалдыгын жана келип чыгуусунан мүмкүн болгон терс кесепеттердин масштабын баалоону камтыйт.

Эгерде кандайдыр бир аныкталган тобокелдиктердин келип чыгуу ыктымалдыгын же алардын кесепеттеринин масштабын эсептөөгө жана баалоого мүмкүн болбосо, жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери муну себептерин көрсөтүү менен документтештирүүгө милдеттүү.

17. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери мындай тутумдарды максатсыз пайдаланууга жана/же ээлеринин же иштеп чыгуучулардын өздөрү тарабынан белгиленген эксплуатациялоо эрежелерин бузуу менен пайдаланууга байланышкан мүмкүн болуучу жөндүү жол берилүүчү тобокелдиктерди документтештирүүгө жана баалоого милдеттүү.

Мындай тобокелдиктердин келип чыгуу ыктымалдыгы бул тутумдарды жана/же салыштырмалуу же окшош техникалык мүнөздөмөлөргө жана/же иштөө алгоритмдерине ээ болгон аларга окшош тутумдарды эксплуатациялоонун жүрүшүндө алынган маалыматтардын негизинде бааланат.

18. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери жалпы таанылган эл аралык практиканы эске алуу менен аныкталган тобокелдиктерди эсептөө жана баалоо методикасын өз алдынча аныктайт.

19. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери аныкталган тобокелдиктердин келип чыгуу ыктымалдыгын эсептөөдө жана мүмкүн болуучу кесепеттердин масштабын баалоодо төмөнкүлөргө негизделүүгө тийиш:

1) Кыргыз Республикасынын мамлекеттик органдары тарабынан жарыяланган жалпыга жеткиликтүү маалыматка;

2) жогорку кооптуулуктагы жасалма интеллект тутумдарынын иштеп чыгуучулары тарабынан берилген маалыматка;

3) жогорку кооптуулуктагы жасалма интеллект тутумдарынын колдонуучулары тарабынан берилген маалыматка;

4) жасалма интеллект жаатындагы изилдөөлөргө адистешкен эл аралык же чет өлкөлүк коммерциялык эмес уюмдар таратуучу маалыматка.

20. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери тобокелдиктерди башкаруу боюнча чараларды тандоодо технологиялардын өнүгүүсүнүн жеткен деңгээлин жана жалпы таанылган эл аралык практиканы эске алат.

21. Тандалган тобокелдиктерди башкаруу боюнча чаралар тобокелдик факторлорунун ар бири үчүн жана жалпысынан система үчүн корголуучу байлыктарга зыян келтирүүнүн калдык тобокелдигин бул тутумдарды максаттуу пайдаланууда, ошондой эле жөндүү божомолдонгон максатсыз пайдаланууда да алгылыктуу деңгээлге чейин төмөндөтүүнү камсыз кылууга тийиш.

22. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери колдонуучулар үчүн калдык тобокелдиктер жана максаттуу пайдалануу жөнүндө маалыматты жалпыга жеткиликтүү кылууга милдеттүү.

23. Тобокелдиктерди башкаруу боюнча чараларды тандоодо жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери төмөнкүлөрдү камсыз кылууга тийиш:

1) талаптагыдай долбоорлоо жана иштеп чыгуу аркылуу техникалык жактан мүмкүн болушунча тобокелдиктерди жоюуну же азайтууну;

2) жоюуга мүмкүн болбогон тобокелдиктерге карата терс кесепеттерди азайтуу жана контролдоо боюнча талаптагыдай чараларды көрүүнү;

3) колдонуучуларга калдык тобокелдиктерге карата зарыл болгон маалыматты жана нускаманы берүүнү.

24. Жогорку кооптуулуктагы жасалма интеллект тутумдарын колдонууга байланышкан тобокелдиктерди жоюу же азайтуу үчүн колдонуучулардын техникалык билиминин деңгээлин, тажрыйбасын, билимин жана даярдыгын, ошондой эле мындай тутумдарды колдонуунун конкреттүү контексттин эске алуу керек.

Жогорку кооптуулуктагы жасалма интеллект тутумдарынын колдонуучуларына карата тиешелүү талаптар жана аларды колдонуунун болжолдонгон контексти жөнүндө маалыматтар аларды колдонуу башталганга чейин документтештирилүүгө жана тутумдардын колдонуучуларына жеткиликтүү болууга тийиш. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери кайтарым байланыш жана колдонуучулардын даттанууларына үзгүлтүксүз мониторинг жүргүзүү жана талдоо механизмдерин киргизүүгө милдеттүү, алардын негизинде жасалма интеллекттин алгоритмдери оңдолууга, тутумдардын интерфейстери үзгүлтүксүз каралууга, адаптацияланууга, ошондой эле колдонуучулар даттана, автоматтык чечимди талаша же анын түшүндүрүүнү сурай ала турган каналдар каралууга тийиш.

25. Жогорку кооптуулуктагы жасалма интеллект тутумдарынын ээлери мындай тутумдар жарандык жүгүртүүгө же эксплуатациялоого киргизилгенге чейин тобокелдиктерди башкаруу боюнча кыйла ылайык келген чараларды аныктоо үчүн сыноолорду (чараларды тестирлөө) жүргүзүүгө, ошондой эле алардын иштөө циклинин ичинде аларды мезгил-мезгили менен кайталап турууга милдеттүү.

Сыноолор алдын ала аныкталган чендерди жана жогорку кооптуулуктагы жасалма интеллект тутумдарынын максаттуу багытына ылайык келген мүмкүн болуучу босоголук маанилерди колдонуу менен жүргүзүлүүгө тийиш.

26. Сыноолордун жыйынтыгы боюнча жогорку кооптуулуктагы жасалма интеллект тутумдары багыты боюнча туруктуу иштесе жана милдеттүү талаптарга ылайык келсе, сыноолор ийгиликтүү деп таанылат.

27. Сыноолордун жыйынтыктары тиешелүү акт менен таризделет.

28. Тобокелдиктерди башкаруу боюнча чаралар, аларды ишке киргизүү методикасы жөнүндө бардык маалыматтар жана жогорку кооптуулуктагы жасалма интеллект тутумдарын сыноонун жыйынтыктары санариптик жазуулар түрүндө берилүүгө тийиш.

29. Жогоруда көрсөтүлгөн маалыматтар жалпыга жеткиликтүү санариптик маалыматтарга кирет жана жасалма интеллект тутумдарынын ээлеринин сайтында жөнөкөй жана жеке жактарга түшүнүктүү формада, ошондой эле мамлекеттик сырларга тиешелүү маалыматтарды кошпогондо, ачык маалымат форматында жарыяланууга тийиш.

30. Жасалма интеллект тутумдарынын ээлери аларды колдонуу жөнүндө чогултулган маалыматтардын негизинде колдонулуучу тобокелдиктерди башкаруу тутумунун натыйжалуулугун, ошондой эле анын белгиленген милдеттүү талаптарга, Кыргыз Республикасынын колдонуудагы мыйзамдарына, жалпы таанылган эл аралык практикага, анын ичинде жасалма интеллект тутумдары үчүн тармактык жана эл аралык стандарттарга жана сунуштарга ылайык келүүсүн мезгил-мезгили менен баалап турууга тийиш.

31. Мындай баалоонун жыйынтыктары тобокелдиктерди башкаруу чараларын кайра карап чыгуу үчүн негиздердин жоктугу жөнүндө акт менен же тобокелдиктерди башкаруу тутумунун жаңы версиясын кабыл алуу жана жарыялоо менен таризделет.