Нидерланд болон Европын хуулийн дагуу алгоритм нь эрүүгийн хариуцлага хүлээх боломжгүй, тэр ч байтугай хэсэгчлэн хариуцлага хүлээх боломжгүй. Нидерландын Эрүүгийн хуулийн 51 дүгээр зүйлд (Wetboek van Strafrecht, Sr) зөвхөн хувь хүн болон хуулийн этгээдийг гэмт хэрэгтэн гэж үздэг тул жинхэнэ асуулт нь хиймэл оюун ухааны системийн хийсэн зүйлд аль хүн эсвэл компани хариуцлага хүлээх вэ гэдэг юм.
Нидерландын эрүүгийн хууль нь энэ асуултад функциональ гэмт хэрэг (functioneel daderschap) болон корпорацийн эрүүгийн хариуцлагаар дамжуулан аль хэдийн хариулдаг. Энэхүү нийтлэлд эдгээр сургаалууд хиймэл оюун ухаанд хэрхэн хамаарах, Европын Холбооны хиймэл оюун ухааны тухай хууль нь тусламж үйлчилгээний стандартыг хэрхэн тогтоодог, алгоритмын гаралтыг нотлох баримт болгон хэрхэн ашигладаг, хамгаалалт болон дагаж мөрдөх хөтөлбөр ямар байдаг талаар тайлбарласан болно. Нийлүүлэлтийн сүлжээний өнцгийн талаар машин гэмт хэрэг үйлдэхэд хэн хариуцлага хүлээх тухай манай хамтрагч нийтлэлийг үзнэ үү.
Агуулгын хүснэгт
Алгоритм яагаад сэжигтэн байж болохгүй вэ?
Эрүүгийн гэмт хэрэг нь буруутгагдаж болох гэмт этгээдийн үйлдлийг шаарддаг бөгөөд хиймэл оюун ухааны систем нь хүсэл зориггүй бөгөөд шийтгэгдэж чадахгүй. 51(1)-р зүйлд гэмт хэргийг хувь хүн болон хуулийн этгээд үйлдэж болно гэж заасан байдаг бол програм хангамж нь аль нь ч биш юм.
Загвар өмсөгчдөд хорих ял, торгууль ногдуулах, олон нийтийн ял оноох зэрэг шийтгэл оногдуулж болохгүй. Загвар өмсөгчийг устгах нь системийг биш, харин эзэмшигчийг нь шийтгэдэг. Тиймээс хиймэл оюун ухаанаас үүдэлтэй хор хөнөөлийн дараа эрүүгийн хуулийн хэрэгжүүлэхийг хүсч буй бүх зүйлийг ард байгаа хүмүүс болон байгууллагуудаар дамжуулан хийх ёстой.
| Бүрэлдэхүүн | Эрүүгийн хуульд юу шаардлагатай вэ | Хиймэл оюун ухааны системийн байр суурь |
|---|---|---|
| Гэмт этгээд | Хувь хүн эсвэл хуулийн этгээд (51 дүгээр зүйл) | Аль нь ч биш; энэ нь хэн нэгний эзэмшиж, ажиллуулдаг объект юм |
| Дамжуулах | Үйлдэл эсвэл буруутай үйлдэл | Гаралт; хамаарах үйлдэл нь үүнийг барих, байршуулах эсвэл ажиллуулах шийдвэр юм. |
| Санаатай эсвэл хайхрамжгүй | Санаатай (санаатай) эсвэл ноцтой хайхрамжгүй байдал (гэм буруутай) | Сэтгэцийн байдал байхгүй; санаатай эсвэл хайхрамжгүй байх нь хүнээс хамаарна |
| зөвшөөрөл | Хорих ял, торгууль, олон нийтийн хорих ял эсвэл арга хэмжээ | Боломжгүй зүйл байна; операторт хориг арга хэмжээ авна |
Үүний оронд хэн хариуцлага хүлээх вэ?
Оператор, компани болон түүний удирдлага. Нидерландын эрүүгийн хуульд хэн нэгнийг бие махбодийн хувьд хийгээгүй үйлдлийнх нь төлөө хариуцлага хүлээлгэх хоёр механизм байдаг бөгөөд хоёулаа хиймэл оюун ухаанд өөрчлөлтгүйгээр хамаарна.
Функциональ гэмт хэрэг
Дээд шүүх (Хоге Раад) IJzerdraad-ын шийдвэрт томъёолсон шалгуурын дагуу тухайн хүн тухайн үйлдэл гарсан бөгөөд түүнийг хүлээн зөвшөөрсөн эсэхийг шийдэх эрх мэдэлтэй байсан эсвэл ийм үйлдлийг хүлээн зөвшөөрсөн эсэхийг зуршил болгон шийдвэрлэсэн бол тухайн хүнийг үйл ажиллагаа явуулж буй гэмт хэрэгтэн гэж үзнэ.
Хиймэл оюун ухааны хувьд устгах эрх мэдлийг нотлоход ихэвчлэн хялбар байдаг: оператор системийг тохируулж, дахин сургаж, унтрааж болно. Хүлээн авах нь хэргийг шийддэг. Нотлох баримт нь оператор алдааны горимын талаар юу мэдэж байсан, туршилт болон өмнөх үйл явдлууд юу харуулсан, үүнтэй холбоотой юу хийсэнтэй холбоотой. Ихээхэн эрсдэлийг мэдэж хүлээн зөвшөөрөх нь хангалттай; энэ бол нөхцөлт санааны Голландын стандарт юм (voorwaardelijk opzet).
Корпорацийн хариуцлага ба де факто манлайлал
Хэрэв оператор нь компани бол 51 дүгээр зүйл хамаарна. Драйфместийн шийдвэрт (ECLI:NL:HR:2003:AF7938) Дээд шүүх тухайн үйлдлийг хуулийн этгээдэд хамааруулж болно гэж үзсэн. Шалгуур үзүүлэлт нь тухайн үйлдлийг тухайн этгээдэд ажилладаг хэн нэгэн гүйцэтгэсэн, түүний хэвийн үйл ажиллагаанд тохирсон, ашиг тусаа өгсөн, мөн компани үүнийг хянаж, хүлээн зөвшөөрч чадсан, үүнд зохих ёсоор анхаарал хандуулаагүй зэрэг орно. Компанийн ажилд зориулж байрлуулсан хиймэл оюун ухааны систем нь эдгээр үзүүлэлтүүдийн ихэнхийг хангадаг.
51(2)-р зүйлд мөн гэмт хэрэг үйлдэх тушаал өгсөн эсвэл де факто удирдсан хүмүүсийг яллахыг зөвшөөрдөг (feitelijk leidinggeven). Дээд шүүх 2016 оны 4-р сарын 26-ны өдрийн шийдвэртээ (ECLI:NL:HR:2016:733) албан ёсны байр суурь шаардлагагүй бөгөөд хангалтгүй гэж үзсэн. Тухайн хүн уг үйлдлийг урьдчилан сэргийлэх боломжтой бөгөөд үүрэг хүлээсэн, ядаж л ийм зүйл тохиолдох магадлалыг санаатайгаар хүлээн зөвшөөрсөн тохиолдолд идэвхгүй үүрэг хангалттай байж болно. Хиймэл оюун ухааны хэрэгт нотлох баримт нь баталгаажуулалтын тайланг хэн хүлээн авсан, хэн байршуулахыг зөвшөөрсөн, хэн мэдэгдэж буй алдааны түвшинг хүлээн зөвшөөрсөн явдал юм.
Ямар гэмт хэрэг хамгийн их магадлалтай вэ?
Автоматжуулсан системтэй холбоотой эрүүгийн хэрэг нь ихэвчлэн хайхрамжгүй байдлаас үүдэлтэй байдаг. Хэрэв хиймэл оюун ухаанаар удирдуулсан тээврийн хэрэгсэл, машин механизм эсвэл эмнэлгийн хэрэгсэл нь хүний аминд хүрсэн бол уг гэмт хэрэг нь 307 дугаар зүйлийн дагуу (хоёр жил хүртэл хугацаагаар хорих ял) хайхрамжгүй байдлаас болж хүний амь насыг авчирсан гэмт хэрэгт тооцогдоно; хүнд гэмтэл учруулсан тохиолдолд 308 дугаар зүйлийн дагуу.
Ялгаварлан гадуурхалт нь хоёрдугаар ангилал юм. Албан тушаал, мэргэжил, бизнес эрхлэхдээ хүмүүсийг арьс өнгө, шашин шүтлэг, итгэл үнэмшил, хүйс, бэлгийн чиг баримжаа зэрэг үндэслэлээр ялгаварлан гадуурхах нь 429quater Sr зүйлийн дагуу гэмт хэрэгт тооцогдоно; арьс өнгөөр санаатайгаар ялгаварлан гадуурхах нь 137g Sr зүйлийн дагуу гэмт хэрэгт тооцогдоно. Тиймээс хамгаалагдсан бүлгийг системтэйгээр сулруулдаг загвар нь эрүүгийн хэрэг болж болзошгүй. Нидерландын эрүүгийн байцаан шийтгэх ажиллагааны талаархи бидний гарын авлагад ийм хэрэг хэрхэн явагддагийг тайлбарласан болно.
Хиймэл оюун ухааны тухай хууль эрүүгийн хариуцлагад хэрхэн нөлөөлдөг вэ?
Европын Холбооны Хиймэл Оюун Ухааны тухай хууль (Зохицуулалт (ЕХ) 2024/1689) нь эрүүгийн гэмт хэрэгт тооцогдохгүй боловч нямбай үйлчилгээ үзүүлэгч эсвэл байршуулагч юу хийх ёстойг бичсэн байдаг. Энэ стандартаас хазайх нь хайхрамжгүй байдлын нотолгоо; дагаж мөрдөх нь анхаарал халамжийн нотолгоо юм.
Хуулиар системийг эрсдэлээр нь ангилдаг. Зарим практикийг хориглодог, тухайлбал нийгмийн оноо авах, нүүрний зургийг зорилгогүй хусах, ажил дээрээ эсвэл боловсролд сэтгэл хөдлөлийг таних зэрэг. Өндөр эрсдэлтэй системд зохицуулалттай бүтээгдэхүүний аюулгүй байдлын бүрэлдэхүүн хэсгүүд болон ажилд авах, зээлийн оноо авах, хууль сахиулах, шилжилт хөдөлгөөн, шударга ёсыг хэрэгжүүлэх зэрэг хэрэглээ багтдаг. Хүмүүстэй харилцдаг эсвэл синтетик контент үүсгэдэг системүүд нь ил тод байдлын үүрэг хүлээдэг.
Нийлүүлэгч эсвэл байршуулагч: та ямар үүрэг гүйцэтгэдэг вэ?
Нийлүүлэгч нь системийг боловсруулж, өөрийн нэрээр зах зээлд гаргадаг; байршуулагч нь өөрийн эрх мэдлийн хүрээнд системийг ашигладаг. Нийлүүлэгчид дизайны үүрэг, байршуулагчид зөв ашиглах, хүний хяналт, хяналт тавих үүргийг хүлээдэг.
Хэрэв байршуулагч нь өндөр эрсдэлтэй систем дээр өөрийн нэрийг оруулбал, түүнийгээ мэдэгдэхүйц өөрчилбөл эсвэл зорилгоо өөрчилж, өндөр эрсдэлтэй болговол үйлчилгээ үзүүлэгч болно. Худалдан авсан загвараа нарийн тохируулж, шинэ зорилгоор ашиглах нь таныг энэ шугамаас холдуулж чадна. Эрүүгийн мөрдөн байцаалтын явцад "Хэн захиран зарцуулах эрх мэдэлтэй байсан бэ?" гэсэн асуулт гарч ирнэ. Үүргийг бичгээр болон гэрээнд тэмдэглэнэ үү.
Юу аль хэдийн хамаатай вэ?
Хориглолт, хиймэл оюун ухааны бичиг үсгийн үүрэг, ерөнхий зориулалттай хиймэл оюун ухааны загваруудын дүрэм журам болон 50 дугаар зүйлийн ил тод байдлын үүрэг аль хэдийн хэрэгжиж байна. Дижитал омнибус (Зохицуулалт (ЕХ) 2026/1744) нь өндөр эрсдэлтэй системийн үүргийг хойшлуулсан. Хиймэл оюун ухааны хариуцлагын санал болгож буй удирдамжийг хүчингүй болгосон тул хиймэл оюун ухааны хохирлын иргэний хариуцлага нь Голландын эрүүгийн хэрэг болон бүтээгдэхүүний хариуцлагын хуулийн асуудал хэвээр байна.
Хуулийн дагуу торгууль нь захиргааны шинжтэй: хориотой үйл ажиллагаанд 35 сая евро буюу дэлхийн жилийн эргэлтийн 7% хүртэл торгууль ногдуулдаг бөгөөд бусад зөрчлийн хувьд хязгаарыг бууруулдаг. Нидерландад Нидерландын Мэдээлэл Хамгаалах Газар (Autoriteit Persoonsgegevens) болон Нидерландын Дижитал Дэд Бүтцийн Газар (Rijksinspectie Digitale Infrastructuur) нь хяналтыг зохицуулдаг. Хориотой хиймэл оюун ухааны үйл ажиллагаа , өндөр эрсдэлтэй хиймэл оюун ухааны системүүдийн талаархи нийтлэлүүд болон Европын Холбооны хиймэл оюун ухааны тухай хуулийн тоймыг үзнэ үү.
Прокурор уг хуулийг шалгах хуудас болгон ашигладаг. Хэрэв байршуулагч нь сургалтын өгөгдлийг алдаатай эсэхийг шалгахгүйгээр, шаардлагатай хүний хяналтгүйгээр шалгах хэрэгслийг ашигласан бол зөрчлийг баримтжуулж, ямар ч байсан байршуулах шийдвэрээс хүлээн зөвшөөрсөн гэсэн үг юм. Үүний эсрэгээр, эрсдэлийн үнэлгээ, баталгаажуулалтын үр дүн, хяналтын протокол, ослын бүртгэлээ гаргаж чадах компани хамгаалалтаа урьдчилан бэлтгэсэн байдаг.
Алгоритмын гаралтыг нотлох баримт болгон хэрхэн ашигладаг вэ?
Нүүр царай таних, улсын дугаар таних эсвэл залилангийн эрсдэлийн оноо зэрэг алгоритмын гаралт нь нотлох баримтын тусдаа ангилал биш юм. Эрүүгийн байцаан шийтгэх хуулийн 339 дүгээр зүйлийн дагуу (Wetboek van Strafvordering, Sv) нотлох баримт нь тогтсон ангиллаар хязгаарлагддаг тул гаралт нь цагдаагийн албан ёсны тайлан гэх мэт бичгээр баримт бичиг эсвэл шинжээчийн мэдүүлгээр шүүхэд хүрдэг.
Хамгаалалт нь гурван асуултыг шалгадаг. Арга нь баталгаажсан уу, хэн баталгаажуулсан бэ? Ямар нөхцөлд бүтэлгүйтдэг вэ, тэдгээр нь байсан уу? Хамгаалалт нь сургалтын өгөгдөл, алдааны түвшин болон тохиргооны талаарх мэдээлэлд хандах замаар үүнийг баталгаажуулж чадах уу? Алдааны түвшин эсвэл баталгаажуулах ямар ч боломжгүйгээр танилцуулсан тохирол нь сул нотлох баримт бөгөөд үүнийг эсэргүүцэх нь хууль ёсны хамгаалалт юм.
Шүүх өөрийн санаачилгаар эсвэл өмгөөлөгчийн хүсэлтээр шинжээч томилж болно. Хиймэл оюун ухааны арга нь хүлээн зөвшөөрөгдсөн мэргэжлийн салбараас гадуур байвал энэ нь өөрөө найдвартай байдлын тухай маргаан юм. Эрүүгийн байцаан шийтгэх шинэ хуулийг баталж, 2029 онд хүчин төгөлдөр болохоор төлөвлөж байгаа бөгөөд тэр хүртэл одоогийн хууль хүчин төгөлдөр мөрдөгдөнө.
Өгөгдөл хамгаалах хуульд юу нэмж оруулсан бэ?
GDPR-ийн 22 дугаар зүйл нь тухайн хүнд зөвхөн автоматжуулсан боловсруулалтад суурилсан шийдвэрт өртөхгүй байх эрхийг олгодог. Эрүүгийн хэрэг хянан шийдвэрлэх ажиллагааны хувьд Цагдаагийн мэдээллийн тухай хууль (Wet politiegegevens) нь цагдаагийн хувьд Европын Холбооны зэрэгцээ дүрмийг хэрэгжүүлдэг. Сэжигтний хувьд энэ нь системийн талаарх мэдээлэл авах зам байж болно; компанийн хувьд хууль ёсны үндэслэлгүйгээр автоматжуулсан шийдвэр гаргах нь аливаа эрүүгийн хэрэгт холбогдуулан тусдаа зөрчил юм.
Хиймэл оюун ухаан оролцсон хэргийг та хэрхэн хамгаалах вэ?
Систем юу хийхийг хэн ч мэдэхгүй гэсэн "хар хайрцаг"-ны хамгаалалт нь харагдаж байгаагаас сул байна. Нидерландын эрүүгийн хуульд шүүгдэгч тухайн үйлдэл гарсан эсэхийг шийдэж, эрсдэлийг хүлээн зөвшөөрч чадах эсэхийг асуудаг болохоос тэр хүн яг ямар үр дүнд хүрэхийг урьдчилан харж байсан эсэхийг нь асуудаггүй; ноцтой хохирол учруулж болзошгүй газарт тайлбарлахын аргагүй системийг байршуулах нь өөрөө уг эрсдэлийг хүлээн зөвшөөрч байгаа хэрэг байж магадгүй юм.
Гурван хамгаалалт илүү сайн ажилладаг бөгөөд бүгд нотлох баримттай байдаг:
- Бодит хяналт байхгүй: системийг бэлэн бүтээгдэхүүн болгон худалдаж авсан, үйлчилгээ үзүүлэгч тохируулж, засвар үйлчилгээ хийсэн бөгөөд хариуцагч нь мэдээлэлгүй, хөндлөнгөөс оролцох чадваргүй байсан. Энэ нь анхаарлыг үйлчилгээ үзүүлэгч рүү шилжүүлж, гэрээ болон юу мэдээлсэнээс хамаарна.
- Зөв зохистой анхаарал халамж: баримтжуулсан эрсдэлийн үнэлгээ, байршуулахаас өмнө баталгаажуулалт, хүчингүй болгох эрх бүхий хүний хяналт, хяналт, ослын үед арга хэмжээ авах.
- Шалтгаан: Сургалтын өгөгдлөөс загвар, хүний шийдвэр, үр дүн хүртэлх гинжин хэлхээнд яллагч тал шүүгдэгчийн энэ үйлдэл нь үр дүнд хүргэсэн болохыг нотлох ёстой.
Бүртгэл, загвар хувилбар, тохиргоо болон ослын тайланг эрт хадгалаарай, учир нь тэдгээрийг байнга дарж бичдэг. Ердийн хамгаалалтын арга хэмжээ нь бүрэн хүчин төгөлдөр бөгөөд үүнд 29-р зүйлийн дагуу чимээгүй байх эрх багтана; эрүүгийн хэрэгт чимээгүй байх эрхийн тухай бидний нийтлэлийг үзнэ үү . Автоматжуулсан хэрэгслүүдийг ашиглан залилангийн талаар Нидерландад залилан мэхлэх, санхүүгийн гэмт хэргийн талаарх бидний гарын авлагыг үзнэ үү.
Хүүхэд асрах тэтгэмжийн хэрэг юуг харуулж байна вэ?
Хүүхэд асрах тэтгэмжийн хэрэг (toeslagenaffaire) нь автомат эрсдэлийн сонголт болон эргэлзээгүй үр дүнг хослуулсан нь хэнийг ч эрүүгийн хариуцлага хүлээлгүйгээр мянга мянган гэр бүлд хэрхэн хор хөнөөл учруулж болохыг харуулж байна. Нидерландын Татварын алба (Belastingdienst) нь үндэс угсаагаар тодорхойлогддог эрсдэлийн ангиллыг ашигласан; Нидерландын Мэдээлэл Хамгаалах Газар нь боловсруулалтыг хууль бус гэж үзэн торгууль ногдуулж, засгийн газар 2021 оны 1-р сард огцорсон.
Гурван алдаа нь аливаа байгууллагын хувьд хууль эрх зүйн илрэл болж хувирдаг: шийдвэрийг тайлбарлаж чадахгүй байсан тул эсэргүүцэх боломжгүй байсан, хүний хяналт зөвхөн цаасан дээр байсан бөгөөд практик дээр нотлох баримтын ачааллыг өөрчилсөн. Хариуцлагын энэхүү тархалт нь яг л үйл ажиллагааны зөрчил болон 51 дүгээр зүйлийн эсрэг чиглэсэн зүйл бөгөөд хиймэл оюун ухааны тухай хууль нь хүний хяналт, баримтжуулалтыг тодорхойлохыг шаарддаг шалтгаан юм.
Хиймэл оюун ухааныг ашиглаж буй компани юуг шалгах ёстой вэ?
Хиймэл оюун ухааны тухай хуулийн дагуу хийгдсэн ихэнх хууль эрх зүйн зохицуулалтын ажил нь эрүүгийн мөрдөн байцаалтад шаардлагатай нотлох баримтыг бий болгодог.
- Та худалдаж авсан програм хангамжийн функцуудыг оролцуулан ашиглагдаж буй хиймэл оюун ухааны систем бүрийг жагсааж, хиймэл оюун ухааны тухай хуулийн дагуу ангилсан уу?
- Систем тус бүрийг байршуулахыг зөвшөөрөх, унтраах эрх бүхий нэр бүхий хүн хариуцдаг уу?
- Хүний хяналт бодитой юу: хянагч гаралтыг ойлгож, татгалзаж чадах уу, мөн давтагдсан үйлдлүүдийг бүртгэдэг үү?
- Та сургалтын өгөгдөл, туршилт, мэдэгдэж буй алдааны түвшин болон тэдгээрийн талаарх шийдвэрүүдийг баримтжуулсан уу?
- Шаардлагатай үед өгөгдөл хамгаалал эсвэл үндсэн эрхийн нөлөөллийн үнэлгээ хийгдсэн үү?
- Танай гэрээнд үйлчилгээ үзүүлэгчийн техникийн баримт бичиг болон ослын мэдэгдлийг өгдөг үү?
Хиймэл оюун ухааны системийн үйлчилгээ үзүүлэгчийн хувьд та юуг шалгах ёстой вэ?
Нийлүүлэгчийн хувьд та дизайны үүргийг гүйцэтгэдэг бөгөөд байршуулагчид гинжин хэлхээг дээш чиглүүлэхэд та хамгийн түрүүнд эгнээнд зогсдог.
- Хэрэглэх зааварт таны зорилгыг яг тодорхой заасан уу?
- Танд өгөгдлийн эх сурвалж, алдааны туршилт болон дизайны сонголтын талаарх техникийн баримт бичиг байгаа юу?
- Та мэдэгдэж буй хязгаарлалт болон алдааны нөхцөл байдлыг байршуулагчдад бичгээр мэдэгдсэн үү?
- Та ослын талаар мэдээлэх, томоохон өөрчлөлтийн талаар байршуулагчдад мэдэгдэх журамтай юу?
- Танай гэрээнд аль тал системийг өөрчлөх эсвэл дахин сургахыг заасан уу?
Хэрэв хиймэл оюун ухааныг гэмт хэрэг үйлдэх хэрэгсэл болгон ашиглавал яах вэ?
Тэгвэл гэмт хэрэг нь зүгээр л гэмт хэрэг юм; технологи нь хууль эрх зүйн шинжилгээг өөрчлөхгүй. Найруулагчийн хуулбарласан дуу хоолой эсвэл синтетик видео бичлэгээр залилан мэхлэх нь Эрүүгийн хуулийн 326 дугаар зүйлийн дагуу залилан мэхлэх (oplichting); хуурамч баримт бичиг үүсгэх нь 225 дугаар зүйлийн дагуу хуурамч баримт бичиг; хувийн мэдээллийг нь хэн нэгэн мэтээр дүрслэх нь Эрүүгийн хуулийн 231б дугаар зүйлийн дагуу хувийн мэдээллийг залилан мэхлэх явдал юм.
Бэлгийн гэмт хэргийн тухай хууль (Wet seksuele misdrijven) 2024 оны 7-р сарын 1-нд хэрэгжиж эхэлснээс хойш хүний бэлгийн зургийг олон нийтэд мэдээлэх нь түүнд хор хөнөөл учруулж болзошгүйг мэдсээр байж 254ba Sr зүйлийн дагуу шийтгэл оногдуулдаг; үүсгэсэн зургийг бичлэг хийгээгүй тул хасдаггүй. Автоматжуулсан дансаар дамжуулан системтэйгээр дарамтлах нь 285b Sr зүйлийн дагуу мөрдөж болох бөгөөд үүнийг зөвхөн гомдлын дагуу эрүүгийн хариуцлага хүлээлгэдэг. Хиймэл оюун ухаан нь нотлох баримтын цар хүрээ болон хүндрэлийг голчлон өөрчилдөг: аудио болон видеоны үнэн зөвийг одоо нотлох шаардлагатай болсон. Нидерландад дижитал хууран мэхлэлтийг нотлох тухай манай нийтлэлийг үзнэ үү.
Бид хиймэл оюун ухаан болон эрүүгийн хариуцлагын талаар танд юу хийж чадах вэ?
Манай эрүүгийн хууль болон мэдээллийн технологийн хуулийн багууд эдгээр хэрэг дээр хамтран ажилладаг.
- Бид таны 51 дүгээр зүйлийн дагуух эрсдэл болон таны ашиглаж буй хиймэл оюун ухааны систем бүрийн үйл ажиллагааны зөрчлийг үнэлдэг.
- Бид таны хиймэл оюун ухааны удирдлага, хяналтын протокол болон баримт бичгийг хянаж, тэдгээр нь анхаарал халамжийн нотолгоо болж чадна.
- Бид үйлчилгээ үзүүлэгч болон байршуулагчийн хооронд үүрэг хариуцлагын хуваарилалтыг боловсруулж, тохиролцдог.
- Бид эрүүгийн хэрэг хянан шийдвэрлэх ажиллагаанд алгоритмын нотлох баримтыг эсэргүүцэж, баталгаажуулалтын мэдээлэлд хандахыг хүсдэг.
- Бид Улсын Прокурорын Алба болон зохицуулагч байгууллагуудын мөрдөн байцаалтын явцад компаниуд болон захирлуудад тусалдаг.
Дүгнэлт
- Алгоритм нь зөрчил гаргагч байж болохгүй; 51 дүгээр зүйл нь зөвхөн хувь хүн болон хуулийн этгээдийг хамарна.
- Операторууд нь үйл ажиллагааны хариуцлага хүлээлгэх замаар, компаниуд нь Драйфмест шалгуураар, захирлууд нь де факто удирдлагаар хариуцлага хүлээнэ.
- Хиймэл оюун ухааны тухай хууль нь анхаарал халамжийн стандартыг тогтоодог: зөрчил нь хайхрамжгүй байдлын нотолгоо, дагаж мөрдөх нь анхаарал халамжийн нотолгоо юм.
- Алгоритмын гаралт нь цагдаагийн тайлан эсвэл шинжээчийн мэдүүлгээр дамжуулан эрүүгийн хэрэгт орж ирдэг бөгөөд баталгаажуулалт болон алдааны түвшингээр маргаан үүсгэж болно.
Түгээмэл асуултууд
Голландын хуулийн дагуу алгоритм нь эрүүгийн хариуцлага хүлээх боломжтой юу?
Үгүй. Нидерландын Эрүүгийн хуулийн 51 дүгээр зүйлд зөвхөн хувь хүн болон хуулийн этгээдийг гэмт хэрэгтэн гэж үздэг. Хариуцлага нь үүнийг ашиглахаар шийдсэн оператор, компани эсвэл захирлууд дээр хамаарна.
Хэрэв компани нь хиймэл оюун ухаанаараа ялгаварлан гадуурхвал эрүүгийн хариуцлага хүлээх боломжтой юу?
Тийм. Хэрэв уг үйлдлийг Драйфместийн шалгуурын дагуу компанитай холбон үзэж болох юм бол тухайн компанийг, жишээлбэл, 429quater Sr. зүйлийн дагуу эрүүгийн хэрэг үүсгэж болно. Эрсдэлийг санаатайгаар хүлээн зөвшөөрсөн захирлуудыг де факто удирдагч гэж үзэж болно.
Хар хайрцагны асуудал хамгаалалт мөн үү?
Ховор тохиолдолд дангаараа. Нидерландын эрүүгийн хуульд уг системийг ашиглах эсэхээ шийдэж, эрсдэлийг хүлээн зөвшөөрч болох эсэхийг асуудаг. Ноцтой хор хөнөөл учруулж болзошгүй газарт тайлбарлахын аргагүй системийг байршуулах нь өөрөө уг эрсдэлийг хүлээн зөвшөөрч байгаа хэрэг байж болно.
Хиймэл оюун ухаан ашиглах үед гэмт хэргийн эрсдэлийг хязгаарлах хамгийн сайн арга юу вэ?
Сургалтын өгөгдөл, туршилт, алдааны түвшин болон шийдвэрүүдийн талаарх баримтжуулалтыг хөтөлж, систем бүрийн хариуцлагыг хүлээсэн нэр бүхий хүмүүсийг томилж, бүртгэгдсэн давталтуудаар хүний хяналтыг бодитой болго. Энэ бүртгэл нь таны хамгаалалтын гол цөм юм.
