Нидерландад хиймэл оюун ухааны системийн хариуцлага үргэлж хүн эсвэл компани дээр тогтдог бөгөөд програм хангамж дээр биш юм. Практикт хоёр байр суурь чухал байдаг: хэрэглэгч буюу системийг байршуулж, түүнтэй хамт шийдвэр гаргадаг хувь хүн эсвэл байгууллага, үйлдвэрлэгч буюу системийг боловсруулсан, зах зээлд гаргасан эсвэл нийлүүлсэн тал. Энэ хоёрын аль нь алдагдал хүлээх нь алдаа хаана гарсан, тэд тус бүр юу мэдэж байсан, тэдний хоорондох гэрээнд юу гэж заасан зэргээс хамаарна. Энэ нийтлэл нь хоёр байр суурийг хамардаг; Эрүүгийн хуулийн 51 дүгээр зүйлд заасны дагуу үйл ажиллагааны гэмт хэргээс эхлээд корпорацийн хариуцлага хүртэлх эрүүгийн хуулийн хүрээ өөрөө алгоритм хэсэгчлэн хариуцлага хүлээх боломжтой эсэх талаарх бидний хамтрагч нийтлэлд тусгагдсан болно.
Яагаад систем хэзээ ч хариуцагч биш байдаг вэ
Нидерландын хуулиар хувь хүн болон хуулийн этгээд гэсэн хоёр төрлийн хүнийг хүлээн зөвшөөрдөг. Хиймэл оюун ухааны систем нь аль нь ч биш юм. Энэ нь юу ч эзэмшдэггүй, түүнийг ажиллуулдаг компаниас тусдаа хууль ёсны оршин тогтнолгүй тул эрхээ эдэлж чадахгүй, дуудаж дуудаж, торгож, хохирлыг барагдуулахыг шаардаж болохгүй. Заримдаа цахим хувь хүн гэж нэрлэгддэг гуравдагч ангиллыг бий болгох саналуудыг Европын түвшинд хэлэлцсэн боловч философийн үүднээс авч үзвэл ямар ч практик шалтгаанаар хаа ч хүрэхгүй байна: хөрөнгөгүй, зан авираа өөрчлөх чадваргүй хариуцлагын хэрэгсэл нь эрсдэлийг хор хөнөөлөөс урьдчилан сэргийлэх боломжтой талуудаас холдуулах болно.
Тиймээс асуулт нь машин хариуцлага хүлээх эсэхэд хэзээ ч оршино. Энэ нь гинжин хэлхээнд байгаа аль хүн эсвэл корпораци үүрэг гүйцэтгэж чадаагүй явдал бөгөөд уг гинжин хэлхээ нь урьдчилан таамаглах боломжтой хэлбэртэй байдаг: загварыг бүтээсэн тал, бүтээгдэхүүн болгон хувиргасан тал, нийлүүлсэн эсвэл нэгтгэсэн тал, байршуулсан байгууллага, товчлуурыг дарсан хувь хүн. Хиймэл оюун ухааны системийн хариуцлага гэдэг нь тухайн гинжин хэлхээнд гарсан алдааг олж тогтоож, хууль эрх зүйн үндэслэлтэй нийцүүлэх дасгал юм.
Эдгээр хууль эрх зүйн хоёр үндэслэл давамгайлдаг. Хэрэглэгчийн хувьд ерөнхий гэмт хэргийн хууль болон хэн нэгний чиглэлд хүчирхэг хэрэгсэл ашиглахтай холбоотой анхаарал халамж тавих үүрэг байдаг. Үйлдвэрлэгчийн хувьд бүтээгдэхүүний хариуцлага нь огт буруу шаарддаггүй. Эрүүгийн хариуцлага зэрэг бусад бүх зүйл эдгээр дээр давхардсан байдаг.
Хэрэглэгчийн байр суурь
Хэрэглэгчид системийг хэн нэгний бүтээсэн хар хайрцаг гэж боддог тул өөрсдийн өртөлтийг дутуу үнэлдэг. Хуулиар бол хэрэгслийг байршуулахаар сонгож, тохируулж, өгөгдөл оруулж, түүний гаралт дээр ажиллаж байгаа хүн ямар нэгэн зүйл хийж байгаа бөгөөд энэ үйлдлийг өөрийнх нь давуу тал дээр үнэлдэг.
Систем нь зүгээр л гэмт хэргийн хэрэгсэл байх үед
Хамгийн хялбар тохиолдлууд бол хиймэл оюун ухааны системийг санаатайгаар ашигласан тохиолдлууд юм. Компанийг залилан мэхлэх зорилгоор итгүүлэх нэхэмжлэх гаргах нь захидлыг хүн бичсэн эсвэл загвар өмсөгч бичсэн эсэхээс үл хамааран Эрүүгийн хуулийн 326 дугаар зүйлийн дагуу залилан мэхлэх бөгөөд баримт бичиг хуурамчаар үйлдэх нь хэрэгслээс үл хамааран 225 дугаар зүйлийн дагуу хуурамч хэвээр байна. Системд нэвтэрдэг код бичихэд загвар ашиглах нь 138ab дугаар зүйлийн дагуу компьютерт халдах явдал хэвээр байна. Бодит хүний хууль ёсны зургийг үүсгэж, түгээх нь гүтгэлэгт тооцогдож болох бөгөөд материал нь бэлгийн шинж чанартай бол 2024 оны 7-р сарын 1-нээс хойш хэрэгжиж буй Бэлгийн гэмт хэргийн тухай хуулийн гэмт хэрэгт хамаарна. Хиймэл оюун ухааны тусламжтайгаар хувь хүнийг байнга дарамтлах нь 285b дугаар зүйлийн дагуу мөрдөж мөшгих явдал бөгөөд үүнийг зөвхөн хохирогчийн гомдлын дагуу эрүүгийн хэрэг үүсгэдэг.
Эдгээрийн аль нь ч шинэ хууль биш. Технологи нь гэмт хэргийн элементүүдийг биш, харин хууран мэхлэлтийн цар хүрээ, үнэмшилтэй байдлыг өөрчилдөг. Үүний өөрчилдөг зүйл бол нотлох баримт юм: мэдэгдэл, бүртгэлийн бүртгэл, загварын гаралт болон файл үүсгэх хугацаа нь гэмт хэргийг тухайн хүнтэй холбодог материал бөгөөд хиймэл оюун ухаанаар үүсгэгдсэн контентыг мөрдөх боломжгүй гэж үздэг хэрэглэгчид ихэвчлэн буруу байдаг.
Хайхрамжгүй хэрэглээ: хамгийн түгээмэл эрсдэл
Санаатай байдлаасаа илүү хайхрамжгүй байдлаас болж асуудалд ордог байгууллагууд хамаагүй олон байдаг. Энэ хэв маяг нь танил юм. Системийг нэг зорилгоор худалдаж аваад өөр зорилгоор ашигладаг. Үүний гаралтыг дохио гэж үзэхээс илүү шийдвэр гэж үздэг. Алдаа гарсан тохиолдлыг хэн ч шалгадаггүй, учир нь үүнийг ажиллуулж буй хүмүүст алдааны түвшин ямар байдаг эсвэл хаана бүтэлгүйтдэгийг нь хэзээ ч хэлээгүй. Хохирол илрэх үед байгууллага шийдвэрийг хэрхэн гаргасан талаар ямар ч бүртгэлгүй болохыг олж мэддэг.
Иргэний хувьд энэ нь шууд гэмт хэрэг юм: Иргэний хуулийн 6:162 дугаар зүйлд зааснаар хохирол учруулсан хууль бус үйлдлийнхээ төлөө хүнийг хариуцлага хүлээлгэдэг. Нийгэмд анхаарал халамж тавих үүргээ зөрчих нь хууль бус үйлдлийн нэг ангиллын нэг бөгөөд уг үүргийн агуулга нь тухайн албан тушаалд байгаа нямбай оператор юу хийх байсан зэргээр тодорхойлогддог. Ажил олгогч нь 6:170 дугаар зүйлийн дагуу ажилчдынхаа алдааны төлөө хариуцлага хүлээх бөгөөд гэрээний үүргээ гүйцэтгэхийн тулд туслах компани ашигладаг тал нь 6:76 дугаар зүйлийн дагуу уг туслах компанийг хариуцдаг бөгөөд энэ нь байгууллага өөрийн үйлчилгээг үзүүлэхийн тулд нийлүүлэгчийн загварыг ашиглаж байгааг илрүүлдэг заалт юм.
Анхаарал халамж тавих үүргийг зөвхөн шүүх зохион бүтээх үүрэг хүлээхээ больсон. Европын Холбооны хиймэл оюун ухааны тухай хууль нь өндөр эрсдэлтэй системийг байршуулагчдад тодорхой үүрэг хариуцлага хүлээлгэдэг: системийг зааврын дагуу ашиглах, үүнийг хэрэгжүүлэх эрх мэдэл бүхий хүмүүст хүний хяналтыг оноох, тэдний хяналтан дор оруулсан өгөгдөл хамааралтай эсэхийг шалгах, үйл ажиллагааг хянах, эрсдэл гарсан тохиолдолд ашиглалтыг түр зогсоох, бүртгэлийг хадгалах, ажилчид болон тэдний төлөөлөгчдөд ийм системийг ажил дээрээ байрлуулахаас өмнө мэдэгдэх. Эдгээр үүрэг нь зохицуулалтын шинж чанартай боловч хайхрамжгүй байдлыг үнэлж буй шүүх тэдгээрийг болгоомжтой үйлдэл ямар байх талаар тайлбарлах болно. Ашиглалтын зааврыг үл тоомсорлосон байгууллага нь зүгээр л зөрчил гаргаад зогсохгүй нэхэмжлэгчид хэргээ хүлээлгэн өгсөн.
Автоматжуулалтын алдааг тусад нь дурдах нь зүйтэй, учир нь энэ нь хяналт чимээгүйхэн бүтэлгүйтдэг газар юм. Системийн санал болгож буй бараг бүх зүйлийг баталсан хянагч хяналтыг хэрэгжүүлдэггүй бөгөөд ажилтнуудаа бүтээмжээр нь хэмждэг байгууллага энэ үр дүнг үр дүнтэйгээр боловсруулсан байдаг. Хууль эрх зүйн асуулт бол хүний шийдвэр үнэхээр гарсан эсэх, мөн резинэн тамга нь үүнд хамаарахгүй эсэх юм.
Хэрэглэгч эрсдэлийг дамжуулж чадахгүй тохиолдолд
Нийлүүлэгч эрсдэл хүлээсэн гэж үзсэн байгууллагуудыг гурван зүйл байнга гайхшруулдаг.
Нэгдүгээрт, хохирсон гуравдагч этгээдийн хувьд хэрэглэгч нь харагдах тал юм. Үйлчлүүлэгч зээл авахаас татгалзсан, скрининг хэрэгслээр татгалзсан ажилтан, буруу ангилсан өвчтөн: тэд байршуулагчтай гэрээ байгуулсан эсвэл түүнтэй харьцдаг бөгөөд байршуулагчийг шүүхэд өгөх болно. байршуулагч нийлүүлэгчээсээ нөхөн төлбөр авч чадах эсэх нь гэрээг идэвхжүүлж, түүний эсрэг нэхэмжлэлийг хойшлуулахгүй тусдаа асуудал юм.
Хоёрдугаарт, ерөнхий өгөгдөл хамгаалах дүрэм нь бусад бүх зүйлээс үл хамааран хэрэгждэг. Хэрэв систем хувийн өгөгдлийг боловсруулдаг бол байршуулагч нь ихэвчлэн хянагч бөгөөд хууль эрх зүйн үндэслэл, ил тод байдал, нөлөөллийн үнэлгээ, аюулгүй байдлыг хариуцдаг. Зөвхөн автоматжуулсан хэрэгслээр гаргасан, хууль эрх зүйн үр дагаварт хүргэдэг эсвэл үүнтэй төстэй байдлаар хүнд мэдэгдэхүйц нөлөөлдөг шийдвэрийг тусад нь зохицуулдаг бөгөөд тухайн хүнд хүний оролцоо, үр дүнг эсэргүүцэх эрхийг олгодог. Ерөнхий өгөгдөл хамгаалах журмын талаарх бидний тоймд уг дэглэмийг тодорхойлсон болно.
Гуравдугаарт, өөрчлөлт нь таны үүргийг өөрчилдөг. Системд өөрийн нэрийг оруулсан, зорилгыг нь өөрчилсөн эсвэл мэдэгдэхүйц өөрчилсөн байршуулагч нь Хиймэл Оюун Ухааны тухай хуулийн дагуу үйлчилгээ үзүүлэгч болж, үйлчилгээ үзүүлэгчийн үүргийг өвлөн авдаг. Ерөнхий зориулалттай загварыг зохицуулалттай шийдвэр гаргахын тулд шалгах хэрэгсэл болгон нарийн тохируулах нь яг энэ шугамыг давсан алхам юм. Хэн нэгний загвар дээр тулгуурлан бүтээж буй байгууллагууд ослын дараа биш, харин ажиллуулахаасаа өмнө аль талд нь байгаагаа тогтоох ёстой.
Продюсерын байр суурь
Үйлдвэрлэгчийн эрсдэл өөр замаар явагддаг бөгөөд энэ нь илүү хатуу байдаг. Иргэний хуулийн 6:185 дугаар зүйл болон түүний дагуу бүтээгдэхүүний хариуцлага нь үйлдвэрлэгчийг хохирогч талын бурууг нотлох шаардлагагүйгээр бүтээгдэхүүний согогийн улмаас учирсан хохирлыг хариуцах үүрэгтэй болгодог. Бүтээгдэхүүн нь түүний танилцуулга, түүнээс боломжийн хэмжээнд хүлээж болох хэрэглээ, эргэлтэд оруулсан хугацааг харгалзан үзвэл хүний хүлээх эрхтэй аюулгүй байдлыг хангаж чадахгүй бол согогтой гэж тооцогддог. Нэхэмжлэгч нь хохирол, согог болон тэдгээрийн хоорондын учир шалтгааны холбоог нотлох ёстой бөгөөд хиймэл оюун ухааны хэрэгт жинхэнэ маргаан нь энэ юм.
Энэхүү дэглэм нь тогтоосон хязгаартай. Нэхэмжлэлийг хохирогч тал хохирол, согог, үйлдвэрлэгчийн хэн болохыг мэдсэн эсвэл мэдэх ёстой байсан өдрөөс хойш гурван жилийн дотор гаргах ёстой бөгөөд уг эрх нь тухайн бүтээгдэхүүнийг эргэлтэд оруулснаас хойш арван жилийн дараа дуусна. Энэхүү дэглэмийн дагуу хариуцлага хүлээхгүй байх, хязгаарлах боломжгүй бөгөөд энэ нь нас баралт, бие махбодийн гэмтэл, хувийн хэрэгцээнд ашиглагдаж буй бусад эд хөрөнгийн хохирлыг бага босго хэмжээгээр хамарна. Үйлдвэрлэгч нь хөгжлийн эрсдэлийн хамгаалалт зэрэг хязгаарлагдмал хамгаалалттай бөгөөд энэ нь эргэлтийн үеийн шинжлэх ухаан, техникийн мэдлэгийн төлөв байдал согогийг илрүүлж чадаагүй тохиолдолд хамаарна.
Програм хангамжийн байр суурийг өөрчилсөн шинэчлэл
Одоогийн Голландын дэглэмийн дагуу бүтээгдэхүүн бол хөдлөх зүйл бөгөөд бие даасан програм хангамж нь шаардлага хангасан эсэх нь олон жилийн турш маргаантай байсан. Энэ маргаан одоо хаагдах гэж байна. Бүтээгдэхүүний хариуцлагын тухай шинэчилсэн удирдамж болох (ЕХ) 2024/2853 дугаар удирдамж нь 2024 оны 12-р сарын 8-нд хүчин төгөлдөр болсон бөгөөд 2026 оны 12-р сарын 9-ний дотор үндэсний хууль тогтоомжид шилжих ёстой; энэ нь зах зээлд гарсан эсвэл тухайн өдрөөс хойш ашиглалтад орсон бүтээгдэхүүнд хамаарах тул Иргэний хуулийн одоогийн заалтууд нь үүнээс өмнө эргэлтэд орсон бүтээгдэхүүнийг зохицуулсаар байна. Хиймэл оюун ухааны системийн хариуцлагын хувьд дөрвөн өөрчлөлт чухал ач холбогдолтой.
Хиймэл оюун ухааны систем болон дижитал үйлдвэрлэлийн файлуудыг багтаасан програм хангамж нь бүтээгдэхүүн юм. Хариуцлагатай талуудын хүрээ нь үйлдвэрлэгчээс гадна үйлдвэрлэгчийн хяналтаас гадуур бүтээгдэхүүнийг ихээхэн өөрчилсөн тал, эрх бүхий төлөөлөгч, импортлогч, тодорхой нөхцөл байдалд гүйцэтгэлийн үйлчилгээ үзүүлэгч болон онлайн платформыг багтааж өргөждөг. Нөхөн сэргээгдэх хохирол нь мэргэжлийн түвшинд ашиглагдаагүй өгөгдлийг устгах эсвэл гэмтээхэд хүрдэг бөгөөд энэ нь програм хангамжийн эвдрэлээс үүдэлтэй алдагдлын жинхэнэ ангилал юм. Мөн бүтээгдэхүүн зах зээлд гарсны дараа юу болсноос шалтгаалан согогтой байж болно: шаардлагатай програм хангамжийн шинэчлэлтийн доголдол, аюулгүй байдлын шинэчлэлтийг нийлүүлээгүй, эсвэл үйлдвэрлэгч хяналтаа хадгалсан тохиолдолд тасралтгүй суралцах үр дагавар.
Энэхүү шинэчлэл нь нотлох баримтын асуудлыг шууд хөндөж байна. Шүүх нэхэмжлэгчийн хүсэлтээр хариуцагчид холбогдох нотлох баримтыг задруулахыг тушааж болох бөгөөд хэрэв хариуцагч үүнийг биелүүлээгүй бол дутагдалтай гэж үзнэ. Нэхэмжлэгч техникийн болон шинжлэх ухааны нарийн төвөгтэй байдлаас болж тэдгээрийг нотлоход хэт их бэрхшээлтэй тулгарсан тохиолдолд, хэрэв нэхэмжлэгч магадлалыг үнэмшилтэй болгосон бол дутагдалтай байдал болон шалтгаант байдлын талаарх няцаалттай таамаглалууд хамаарна. Хэн ч бүрэн тайлбарлаж чадахгүй загвартай тулгарсан нэхэмжлэгчийн хувьд энэ нь маргаантай хэрэг болон боломжгүй хэрэг хоёрын ялгаа юм.
Гэрээ, тохиролцооны заалтууд болон хасах заалтуудын хязгаар
Бизнесийн байгууллагуудын хооронд хамгийн эхний тулааны талбар нь ихэвчлэн хууль гэхээсээ илүү гэрээ байдаг. Хиймэл оюун ухааны системийн нийлүүлэгч нь төлөхөөр тохиролцсон зүйлээ төлөх ёстой: нийлүүлсэн систем нь гэрээнд нийцэж, худалдан авагчийн хүлээх эрхтэй чанаруудыг агуулсан байх ёстой. Хэрэв нийлүүлэгч нь нарийвчлалын түвшин, бэлэн байдлын түвшин эсвэл Хиймэл оюун ухааны тухай хуулийн шаардлагыг хангана гэж амласан бол нийлүүлээгүй тохиолдолд гэрээг зөрчсөн гэж үзэж, гэрээг зөрчсөн тухай зохих мэдэгдлийн дараа гүйцэтгэл, хохирол, татан буулгах зэрэг ердийн арга хэмжээ авдаг.
Нийлүүлэгчид хязгаарлалт болон хасах заалтуудтай хариу үйлдэл үзүүлдэг бөгөөд эдгээр заалтууд нь ихэвчлэн арилжааны талуудын хооронд хүчин төгөлдөр байдаг. Эдгээр нь хязгааргүй биш юм. Зохистой байдал, шударга ёсны стандартын дагуу уг заалтад найдах нь хүлээн зөвшөөрөгдөхгүй тохиолдолд уг заалтыг хүчингүй болгож болно. Энэ нь нийлүүлэгчийн санаатай болгоомжгүй байдал эсвэл ноцтой алдаа гаргасан тохиолдолд шүүхийн баримталдаг арга зам бөгөөд ерөнхийдөө уг заалт нь нөгөө талд тэдгээрийг тэмдэглэх жинхэнэ боломжийг хэзээ ч олгоогүй тохиолдолд хүчингүй болж болзошгүй юм. Бүтээгдэхүүний хариуцлагын дэглэмийн дагуу хохирогч талын эсрэг хариуцлагыг огт хүчингүй болгож болохгүй. Практикт хэлэлцээр нь хязгаар, өгөгдлийн зөрчил, оюуны өмчийн зөрчлийн улмаас үүссэн хохирлыг барагдуулах, зохицуулалтын торгуулийн нөхөн төлбөр, нийлүүлэгчийн үйлчлүүлэгч өөрийгөө хамгаалахад шаардлагатай баримт бичиг, бүртгэлийг өгөх үүргийн талаар юм. Хохирлын нэхэмжлэлийн талаарх манай хуудсанд эдгээр нэхэмжлэлийг хэрхэн бүрдүүлэхийг заасан болно.
Хиймэл оюун ухааны тухай хууль юу хийдэг, юу хийдэггүй вэ
Хиймэл оюун ухааны тухай хууль бол зохицуулалтын хэрэгсэл юм. Энэ нь үйлчилгээ үзүүлэгчид болон байршуулагчдад юу хийхийг хэлж өгч, хянагчдад үүнийг хэрэгжүүлэх эрх мэдэл олгодог; энэ нь хиймэл оюун ухааны системээс болж хохирсон хүнд нөхөн төлбөр авах эрхийг бий болгодоггүй. Иргэний нэхэмжлэлийг уялдуулж, ил тод байдал, таамаглалыг бүх талаар нэвтрүүлэх санал болгож буй Хиймэл оюун ухааны хариуцлагын удирдамжийг хүчингүй болгосон. Дээр дурдсан үндэсний гэмт хэрэг, гэрээний хууль, дээрээс нь бүтээгдэхүүний хариуцлагын дэглэмийг шинэчилсэн хослол хэвээр байна.
Энэ нь хиймэл оюун ухааны тухай хуулийг хариуцлагатай холбоогүй болгодоггүй. Энэ нь гурван талаараа чухал юм. Энэ нь тусламж үйлчилгээний стандартыг тогтоодог тул дагаж мөрдөөгүй байдал нь хайхрамжгүй байдлын нотолгоо болдог. Энэ нь техникийн баримт бичиг, ашиглалтын заавар, бүртгэл, зах зээлийн дараах хяналтын файл зэрэг нь бүгд хуулиар байдаг бөгөөд хэрэг хянан шийдвэрлэх ажиллагааны явцад шаардаж болох тул баримт бичгийг үүсгэдэг. Мөн энэ нь үүрэг хуваарилдаг тул өмнө нь маргааны асуудал байсан үйлчилгээ үзүүлэгч хэн бэ, хэн байршуулагч вэ гэсэн асуулт одоо хууль ёсны хариулттай болсон. Манай мэдээллийн технологийн хуулийн практик нь эдгээр ангиллын асуултуудыг маргаан болохоос өмнө авч үздэг.
Хэрэглэгч болон үйлдвэрлэгч уулзах газар
Ихэнх бодит ослууд нь гинжин хэлхээний нэг үзүүрт гарсан ганц алдаанаас үүдэлтэй биш юм. Эдгээр нь ашигласан хүн амыг төлөөлөөгүй өгөгдөл дээр сургагдсан загвар, тухайн нөхцөлд туршаагүй нийлүүлэгчийн нэгтгэсэн загвар, зааварт хамрагдаагүй зорилгоор ашигласан байгууллага, хязгаарлалтын талаар хэзээ ч хэлээгүй ажилтнуудын ажиллуулснаас үүдэлтэй байдаг. Нидерландын хуульд үүнд ямар ч бэрхшээл байхгүй: олон тал ижил хохирлыг хариуцаж болох бөгөөд тус бүр нь хохирлын нийт дүнг хохирогч талд хариуцах бөгөөд тэд дараа нь тус тусын оруулсан хувь нэмрийн дагуу дотоод хуваарилалтыг өөр хоорондоо зохицуулдаг.
Доорх хүснэгтэд хариуцлага хаана, ямар үндэслэлээр явагддагийг харуулав.
| Тал | Хариуцлагын ердийн үндэслэл | Үр дүнг юу шийддэг вэ |
|---|---|---|
| Нийлүүлэгч эсвэл үйлдвэрлэгч | Алдаагүй бүтээгдэхүүний хариуцлага; үйлчлүүлэгчийн өмнө хүлээсэн гэрээний хариуцлага. | Систем нь хүлээгдэж болох аюулгүй байдлыг хангаж байсан эсэх, мөн баримт бичиг, зааварт үнэндээ юу гэж заасан байсан. |
| Үндсэндээ өөрчлөлт оруулсан нам | Өөрчлөгдсөн бүтээгдэхүүний үйлдвэрлэгчийн байр суурийг тодорхойлох алхамууд. | Өөрчлөлт нь зорилгоосоо давсан эсвэл анхны үйлдвэрлэгчийн хяналтаас гадуур хийгдсэн эсэх. |
| Байгууллагыг байршуулах | Гэмт хэрэг, өөрийн асран хамгаалах үүргээ зөрчих, ажилтан болон туслах байгууллагуудын хариуцлага. | Зааврын дагуу ашиглах, хүний хяналт, оролтын өгөгдөл, бүртгэл, хяналт шинжилгээний чанар. |
| Хувь хүний оператор | Хувь хүний хариуцлага ховор тохиолддог; системийг санаатайгаар ашигласан тохиолдолд эрүүгийн хариуцлага хүлээлгэх эрсдэлтэй. | Санаатай эсвэл ноцтой алдаатай, мөн ажил олгогч үүний оронд хариуцлага хүлээх эсэх. |
Нидерландын хүүхэд асрах тэтгэмжийн асуудал бол Нидерландын хэлэлцүүлэг бүрийн эргэн ирдэг лавлах цэг бөгөөд энэ нь хуулийн дүрэм гэхээсээ илүү хэв маягийг харуулж байна: эрсдэлийн ангиллын тунгалаг бус систем, бодит хувь хүний үнэлгээгүйгээр түүний үр дүнд гаргасан шийдвэрүүд, үр дагавар нь бүхэлдээ хүлээн авагч талын хүмүүст ногдсон. Үүний хууль эрх зүйн үр дагавар нь гэмт хэргийн шинжтэй биш харин захиргааны болон улс төрийн шинжтэй байсан бөгөөд бид хиймэл оюун ухаан болон эрүүгийн эрх зүйн тухай нийтлэлдээ эрүүгийн хариуцлагын талаар юу харуулж, юу харуулж байгааг авч үзэх болно.
Нотлох баримтын асуудал болон энэ нь хэрхэн өөрчлөгдөж байгаа нь
Нэхэмжлэлийг хэн гаргаж ирсэн нь түүнийгээ нотлох ёстой бөгөөд хиймэл оюун ухааны хэрэгт нотлох баримт нь хамгийн хэцүү хэсэг юм. Нэхэмжлэгч нь систем юу хийсэн, яагаад буруу байсан, буруу нь алдагдалд хүргэсэн гэдгийг нотлох ёстой. Үүнийг хийхэд шаардлагатай мэдээлэл хариуцагчийн мэдэлд байдаг бөгөөд нарийн төвөгтэй загварт үүнийг дотооддоо ч гэсэн сэргээхэд үнэхээр хэцүү байж болно.
Гурван хөгжил энэ тэнцвэрийг өөрчилж байна. Бүртгэл хөтлөх нь одоо өндөр эрсдэлтэй системүүдийн хууль ёсны шаардлага болсон тул өмнө нь заавал биш байсан бүртгэл байх ёстой. Бүтээгдэхүүний хариуцлагын нэхэмжлэлд нотлох баримтыг задруулах нь шинэчлэгдсэн дэглэмийн дагуу боломжтой болсон бөгөөд хариуцагч үүнийг биелүүлээгүй тохиолдолд согогтой гэсэн таамаглалаар баталгаажсан болно. Мөн Нидерландын иргэний журмаар аль хэдийн тал нь туршилтын тайлан, ослын бүртгэл, дотоод эрсдэлийн үнэлгээг авахад тогтмол ашигладаг хууль ёсны ашиг сонирхол бүхий тодорхой баримт бичгийг гаргаж өгөхийг шаардах боломжийг олгодог.
Шүүгдэгчийн хувьд практик дүгнэлт нь эвгүй боловч тодорхой байна: таны хадгалж буй баримт бичиг бол таны эсрэг уншуулах баримт бичиг бөгөөд таны хадгалаагүй баримт бичиг нь таны эсрэг хадгалагдах болно. Туршилт, мэдэгдэж буй хязгаарлалт, ослууд болон тэдгээрийг зохицуулах талаарх бүрэн, огноотой, үнэн зөв бүртгэлүүд нь хамгийн хүчтэй хамгаалалт юм, учир нь эдгээр нь байгууллага хамгийн сайн сайхныг хүсэхийн оронд шийдвэр гаргасан болохыг харуулж байна. Хэрэв ослын хэмжээс нь гэмт хэргийн шинж чанартай бол, жишээлбэл, системд зөвшөөрөлгүй нэвтрэх эсвэл өгөгдлийг өөрчлөх тохиолдолд Нидерландын компьютерын гэмт хэрэг, кибер гэмт хэргийн эрүүгийн хүрээ нь иргэний нэхэмжлэлийн хамт хэрэгжих бөгөөд эрүүгийн мөрдөн байцаалтаар яг ижил материалыг хураан авах болно.
Физик ертөнц дэх бие даасан системүүд
Хиймэл оюун ухааны систем нь тээврийн хэрэгслийг жолоодох, дрон нисгэх эсвэл роботын гарыг хөдөлгөх тохиолдолд хариуцлагын нэмэлт давхарга үйлчилдэг бөгөөд энэ нь ерөнхийдөө одоогоор хэлэлцсэн бүх зүйлээс илүү хатуу байдаг. Бие махбодийн хохирол нь эрсдэлийн хариуцлагыг дагуулдаг бөгөөд хэн нэгэн хайхрамжгүй хандсан эсэхийг асуудаггүй.
Автомашины хувьд 1994 оны Замын хөдөлгөөний тухай хуулийн 185 дугаар зүйлд автомашины эзэмшигч буюу эзэмшигч нь давагдашгүй хүчин зүйлээс бусад тохиолдолд явган зорчигч болон дугуйчдад учирсан хохирлыг хариуцах үүрэгтэй гэж заасан байдаг бөгөөд энэ стандартыг биелүүлэхэд маш хэцүү байдаг. Энэ дүрэм нь хүн эсвэл жолоочийн туслах систем жолоо барьж байсан эсэхээс үл хамаарна: эзэмшигч эхлээд хариуцаж, дараа нь програм хангамж үйлдвэрлэгчийн эсрэг гомдол гаргана. Нийтийн зам дээр жинхэнэ өөрөө жолооддог тээврийн хэрэгслийг туршихын тулд Нидерландын тусгай туршилтын хууль тогтоомжийн дагуу зөвшөөрөл авах шаардлагатай бөгөөд уг зөвшөөрөлд хавсаргасан нөхцөлүүд, түүний дотор хянагчийн оролцоо, үүрэг нь тусламж үйлчилгээний стандартын нэг хэсэг болдог.
Нисгэгчгүй нисэх онгоцыг Европын нисгэгчгүй нисэх онгоцны дүрэм журмаар зохицуулдаг бөгөөд операторын бүртгэл болон ангилалд хамаарах шаардлагыг Нидерландын Rijksinspectie Digitale Infrastructuur компани хариуцдаг. Ангиллаасаа гадуур эсвэл шаардлагатай ур чадваргүйгээр ниссэн оператор нь зөвхөн нисэхийн дүрмийг зөрчөөд зогсохгүй шүүхийн болгоомжтой гэж үзэх зан үйлээс гадуур гарсан бөгөөд энэ нь автопилотын техникийн мэтгэлцээн эхлэхээс өмнө хайхрамжгүй байдлын асуудлыг шийдвэрлэдэг.
Эдгээр дэглэмийн хажууд гэмтэлтэй объектын ерөнхий дүрэм байдаг. Тогтоож болох стандартыг хангаагүй, улмаар тодорхой аюул учруулж буй хөдлөх зүйлийн эзэмшигч нь аюулын улмаас учирсан хохирлыг хариуцна. Энэхүү дүрэм нь үндсэн алдаа нь түүний програм хангамжид байсан ч физик машинд хүрдэг бөгөөд энэ нь үйлдвэрлэлийн робот эсвэл автоматжуулсан агуулахын системийн эзэмшигч нь нийлүүлэгч рүү зүгээр л зааж чадахгүй байгаагийн нэг шалтгаан юм. Бүтээгдэхүүний хариуцлагын дэглэм хэрэгжих тохиолдолд хоёр систем харилцан үйлчилдэг бөгөөд хохирогч тал нь ихэвчлэн батлахад хамгийн хялбар замыг сонгодог.
Бие даасан функцтэй машин механизм ажиллуулдаг байгууллагуудын практик үр дагавар нь даатгал болон гэрээг алдааны шинжилгээнд бус харин хатуу хариуцлагын хүрээнд зохицуулах ёстой явдал юм. Нийлүүлэгчийн эсрэг гомдол гаргах нь үнэ цэнэтэй боловч энэ нь нэхэмжлэл таны хаалган дээр эхэлж ирэхийг зогсоож чадахгүй.
Хоёр талын өртөлтийг багасгах
Хиймэл оюун ухааны системийн хариуцлагыг бууруулдаг арга хэмжээнүүд нь системийг зөв ажиллуулахтай адил арга хэмжээнүүд тул зохицуулалтын хуанлиас үл хамааран тэдгээрийг хэрэгжүүлэх нь зүйтэй юм.
Байршуулж буй байгууллагын хувьд бараа материалын бүртгэлээс эхэл: ямар системүүд ашиглагдаж байгаа, хэн нийлүүлж байгаа, тэд юуг шийдэж эсвэл нөлөөлж байгаа, хэн ажиллуулж байгаа. Үйлчилгээ үзүүлэгч болон байршуулагчийн үүрэг өөр өөр байдаг тул тус бүрийн үүргээ тодорхойл. Дараа нь зорилгыг нь бичиж, түүндээ анхаарлаа хандуул; зайлсхийх боломжтой хариуцлагаас үүдэлтэй хамгийн түгээмэл шалтгаан бол баталгаажаагүй зүйлд зориулж хэрэгсэл ашиглах явдал юм. Системийг ажиллуулж буй хүмүүст үүнийг хүчингүй болгох бодит эрх мэдлийг олгож, хэмжээг нь биш харин шүүмжлэлээр нь хэмжинэ. Бүртгэлийг хадгалж, маргаанд хэрэг болохуйц хугацаанд хадгал. Ослын ойрын тохиолдлуудыг оруулаад, тэдгээрийн талаар юу хийснийг тэмдэглэ.
Үйлдвэрлэгч эсвэл нийлүүлэгчийн хувьд үүнтэй төстэй жагсаалт нь амьдралын мөчлөгөөр дамжин явагддаг: баримтжуулсан эрсдэлийн удирдлага, зохицуулагчид тайлбарлаж болох өгөгдлийн засаглал, системийг бодитоор ашиглах хүн амын эсрэг туршилт, хязгаарлалт болон алдааны түвшинг баталгаажуулахын оронд үнэн зөвөөр харуулсан хэрэглээний заавар, үйлчлүүлэгчид асуудлыг мэдээлэх суваг, аюулгүй байдлын засваруудыг хэн, хэр удаан хариуцахыг заасан шинэчлэлтийн бодлого. Шинэчлэгдсэн бүтээгдэхүүний хариуцлагын дэглэм нь сүүлийн санааг өмнөхөөсөө илүү хурц болгож байна: таны нийлүүлэхээр өгсөн шинэчлэлтийг нийлүүлээгүй тохиолдолд бүтээгдэхүүн өөрөө гэмтэлтэй болж болзошгүй.
Хоёр тал гэрээг албан ёсны зүйл гэхээсээ илүү эрсдэл хуваарилах дасгал гэж үзэх ёстой. Чухал заалтууд нь зорилгын тодорхойлолт, нийцэл болон гүйцэтгэлийн баталгаа, баримт бичиг, бүртгэлийг хүлээлгэн өгөх үүрэг, хоёр чиглэлд ослын мэдэгдлийн үүрэг, хариуцлагын дээд хязгаар болон түүний хязгаарлалт, гуравдагч этгээдийн нэхэмжлэл болон зохицуулалтын торгуулийн нөхөн төлбөр, харилцаа дуусгавар болсон тохиолдолд загвар болон өгөгдөлд юу тохиолдохыг тодорхойлдог гарах зохицуулалт юм. Системийн бодит шийдвэрийг дурдалгүйгээр хийсвэрээр тохиролцсон дээд хязгаар нь хэнийг ч хамгаалахгүй.
Эцэст нь, шууд эрсдэл нь иргэний шинжтэй байсан ч эрүүгийн эрсдэлийг анхаарч үзээрэй. Хиймэл оюун ухааны алдаанаас болж компанийг яллах нь ер бусын хэвээр байгаа ч элементүүд нь энгийн байдаг: үүрэг, зөрчил, урьдчилан таамаглах боломжтой хохирол, эрсдэлийг хүлээн зөвшөөрсөн нь нотлогдож болох байгууллага. Системийг илт хууль бус зүйлд ашигласан эсвэл компани хохирол учруулж байгааг мэдэж байгаа системээ үргэлжлүүлэн ажиллуулж байгаа тохиолдолд эрүүгийн зам нээлттэй бөгөөд шинжилгээг Нидерландын эрүүгийн эрх зүйн талаархи нийтлэл болон алгоритм ба эрүүгийн хариуцлагын талаархи хамтрагч хэсэгт бүрэн тусгасан болно.
Түгээмэл асуултууд
Хиймэл оюун ухаан шүүх хуралд гэрчээр оролцож болох уу?
Богино хариулт нь үгүй, ядаж одоогийн хууль эрх зүйн орчинд тийм биш юм. Гэрч гэдэг ойлголт үндсэндээ хүн төрөлхтний шинж чанартай байдаг. Гэрч болохын тулд хүн үнэнээ хэлнэ гэж тангараг өргөх чадвартай байх ёстой. Тэд мөн тухайн үйл явдлын талаар хувийн мэдлэгтэй байх ёстой бөгөөд тэдний ой санамж, ойлголт, итгэл үнэмшил зэргийг шалгадаг хөндлөнгийн шалгалтыг тэсвэрлэх чадвартай байх ёстой.
Хиймэл оюун ухаан нь эдгээр шалгуурыг хангадаггүй. Энэ нь ямар ч ухамсаргүй, тангараг өргөж чадахгүй, хүний утга учиртай хувийн дурсамжгүй. Хамгийн сайндаа л боловсруулсан мэдээллээ танилцуулж чадна. Энэ нь үүнийг бодит гэрч гэхээсээ илүү хяналтын камерын бичлэг гэх мэт нотлох баримттай илүү төстэй болгодог. Хиймэл оюун ухааны гарцыг шүүхэд танилцуулж болох нь гарцаагүй, гэхдээ энэ өгөгдлийг тайлбарлаж буй хүн бол гэрчийн үүрэг гүйцэтгэх хүн юм.
Хиймэл оюун ухааны хувьд иргэний болон эрүүгийн хариуцлагын хооронд ямар ялгаа байдаг вэ?
Энэ ялгаа нь хиймэл оюун ухаан нь хор хөнөөл учруулах бүрт маш чухал юм. Иргэний болон эрүүгийн хэргийн аль аль нь хуулийн хариуцлага хүлээдэг ч зорилго, нотлох үүрэг, шийтгэл нь огт өөр юм.
Үүнийг бодох энгийн арга энд байна:
- Иргэний хариуцлага: Энэ нь хохирогчийг дахин бүрэн эдгээх тухай юм. Гол анхаарал нь алдаатай алгоритмаас үүдэлтэй санхүүгийн алдагдал эсвэл автомат жолоодлоготой тээврийн хэрэгслээс үүдэлтэй гэмтэл гэх мэт хохирлыг нөхөн төлүүлэхэд чиглэгддэг. Нотолгооны стандарт нь бага байдаг - ихэвчлэн "магадлалын тэнцвэр" байдаг.
- Эрүүгийн хариуцлага: Энэ нь нийгэмд буруу зүйл үйлдсэнийг шийтгэх тухай юм. Энэ нь "эргэлзээгүйгээр" гэм буруутай гэдгээ нотлохыг шаарддаг бөгөөд энэ нь хамаагүй илүү хүнд саад тотгор бөгөөд шоронд хорих эсвэл их хэмжээний торгууль ногдуулах зэрэг хүнд шийтгэл оногдуулж болзошгүй юм.
Хиймэл оюун ухаан оролцсон тохиолдолд компани бүтээгдэхүүнээсээ учирсан хохирлыг барагдуулахын тулд иргэний нэхэмжлэл гаргаж болзошгүй. Гэхдээ эрүүгийн хэрэг үүсгэхийн тулд прокурор хүний "буруутай сэтгэлгээ" ( mens rea )-г нотлох ёстой. Чухам ийм учраас хариуцлага нь машинд биш, харин хүнд холбогддог.
Манай байгууллага Европын Холбооны хиймэл оюун ухааны тухай хуульд хэрхэн бэлдэх вэ?
Европын Холбооны хиймэл оюун ухааны тухай хууль гэх мэт дүрэм журам аль хэдийн хүчин төгөлдөр болж, үе шаттайгаар хэрэгжиж байгаа тул сүүлийн үүрэг хариуцлага хүчин төгөлдөр болох хүртэл хүлээх нь эрсдэлтэй стратеги юм. Урьдчилан сэргийлэх дагаж мөрдөх нь таны хууль эрх зүйн эрсдэлийг үр дүнтэй бууруулах цорын ганц арга зам юм.
Таныг эхлүүлэх хэд хэдэн үндсэн алхмууд энд байна:
- AI системээ ангил: Нэгдүгээрт, та AI програмууд нь хүлээн зөвшөөрөгдөхгүй, өндөр, хязгаарлагдмал эсвэл хамгийн бага эрсдэлийн аль ангилалд хамаарахыг тодорхойлох хэрэгтэй. Энэ ангилал нь таны дагаж мөрдөх тодорхой үүргийг зааж өгөх болно.
- Эрсдлийн үнэлгээ хийх: Өндөр эрсдэлтэй аливаа системийн хувьд та үндсэн эрхэд учирч болзошгүй хор хөнөөлийг тодорхойлж, шийдвэрлэхийн тулд нарийвчилсан үнэлгээ хийх ёстой. Энэ бол зүгээр нэг хайрцаг тэмдэглэх дасгал биш; энэ нь таны системийн нөлөөллийг гүнзгий судлах явдал юм.
- Ил тод байдал, баримтжуулалтыг хангах: Хиймэл оюун ухааныхаа загвар, сургалтанд ашигласан өгөгдлийн багц, шийдвэр гаргах үйл явцын талаар нягт нямбай бүртгэл хөтөл. Энэ баримт бичиг нь зөрчил гарсан тохиолдолд дагаж мөрдөх, хариуцлага тооцоход зайлшгүй шаардлагатай.
Law & More Хиймэл оюун ухааны систем бүтээдэг болон ашигладаг байгууллагуудад гэрээнд эрсдэлийн хуваарилалт, Хиймэл оюун ухааны тухай хуулийн дагуу ангилал, үүрэг, систем алдагдалд хүргэсэн тохиолдолд хамгаалах эсвэл нэхэмжлэл гаргах талаар зөвлөгөө өгдөг. Хэрэв танай байгууллагын Хиймэл оюун ухааны систем одоо маргаантай шийдвэр гаргасан бол бидэнтэй холбогдож, нөхцөл байдлыг хурдан үнэлж дүгнэнэ үү.
