Алгоритмын алдааны хариуцлагын талаарх танай компанийн гарын авлага

Хиймэл оюун ухааны систем нь ажилд авах, зээлийн оноо авах, эсвэл нийцлийн шалгалт хийхдээ нэг талыг барьсан шийдвэр гаргах үед хэн хуулийн хариуцлага хүлээх вэ? Энэхүү гарын авлага нь алгоритмын нэг талыг барьсан хариуцлагын нарийн төвөгтэй ертөнцөд Голландын бизнес эрхлэгчдэд зориулсан тодорхой замын зургийг санал болгож байна . Бид танай компанийн тулгарч буй хууль эрх зүйн болон санхүүгийн эрсдэлийн гол цөмд хүрэхийн тулд техникийн хэллэгээс давж гарах болно.

Таны хиймэл оюун ухааны систем дэх нуугдмал эрсдэлүүд

Өргөдөл гаргагчдыг хянах програм хангамжаас эхлээд хэрэглэгчийн үйлчилгээний ботууд хүртэл олон бизнес үр ашгийн хувьд автоматжуулсан системд найддаг. Эдгээр хэрэгслүүд нь бүтээмжийг нэмэгдүүлэх амлалт өгдөг ч далд хууль эрх зүйн эрсдэлийг дагуулдаг. Хэрэв алгоритм нь нэг талыг барьсан өгөгдөл эсвэл алдаатай логик дээр суурилсан бол энэ нь танай компанийг ихээхэн хариуцлага хүлээхэд хүргэдэг ялгаварлан гадуурхах үр дагаварт хүргэж болзошгүй юм.

Танай компанийн түүхэн өгөгдлөөс суралцдаг ажилд авах алгоритмыг төсөөлөөд үз дээ. Хэрэв өмнөх ажилд авах арга барилууд нь тодорхой нэр дэвшигчдэд санамсаргүйгээр давуу тал олгосон бол хиймэл оюун ухаан энэ гажуудлыг сурч, давтаж, ижил зэрэглэлийн шаардлага хангасан өргөдөл гаргагчдын зэрэглэлийг системтэйгээр бууруулах болно. Энэ бол зүгээр нэг таамаглалын асуудал биш; энэ бол үнэтэй шүүх ажиллагаа явуулж, танай компанийн нэр хүндэд ноцтой хохирол учруулж болзошгүй бодит ертөнцийн хууль эрх зүйн сорилт юм.

Таны өртөлтийг ойлгох нь

Эдгээр шинэ технологийн сорилтуудыг шийдвэрлэхийн тулд хууль эрх зүйн орчин хөгжиж байна. Алгоритмын алдааны хариуцлагын тухай ойлголт нь бүрэн шинэ зүйл биш; энэ нь тогтсон хууль эрх зүйн зарчмууд дээр суурилдаг бөгөөд одоо тэдгээрийг автоматжуулсан шийдвэр гаргалтад ашиглаж байна. Танай компанийн өртөлт хэд хэдэн гол чиглэлээс үүдэлтэй байж болно:

• Нидерландын Зөрчлийн тухай хууль: Хэрэв хиймэл оюун ухааны нэг талыг барьсан шийдвэр нь илэрхий хохирол учруулбал танай компани хайхрамжгүй байдлын хариуцлагыг хүлээх болно ( onrechtmatige daad ). Үүнд таны ашиглаж буй системийг зохих ёсоор шалгаж, туршиж, хянаж чадаагүй байдал орно.

• GDPR-ийн зөрчил: Ерөнхий мэдээлэл хамгаалах журам (GDPR) нь шударга ёс, ил тод байдлыг онцолсон автомат шийдвэр гаргахтай холбоотой тодорхой дүрэм журамтай (22-р зүйл). Зөрчлийн торгууль нь дэлхийн жилийн эргэлтийн 4% хүртэл хүрч, их хэмжээний торгууль ногдуулж болно.

• Ялгаварлан гадуурхалтын эсрэг хууль: Нидерландын хуулиар хүйс, үндэс угсаа, нас зэрэг хамгаалагдсан шинж чанарт үндэслэн ялгаварлан гадуурхахыг хатуу хориглодог. Санамсаргүй байсан ч ялгаварлан гадуурхах үр дүн гаргадаг алгоритм нь эдгээр үндсэн хуулиудыг зөрчиж байна.

Алгоритмын бүтэлгүйтлийн өндөр эрсдэлүүд

Үүнийг буруу хийснээр гарах үр дагавар нь зөвхөн онолын шинжтэй биш юм. Голландын Toeslagenaffaire (хүүхдийн тэтгэмжийн дуулиан) нь хатуу анхааруулга болж байна. Татварын албаныхан ашигладаг алгоритм нь мянга мянган гэр бүлийг залилангийн хэрэгт буруугаар тэмдэглэсэн бөгөөд олонх нь цөөнхийн гаралтай бөгөөд санхүүгийн сүйрэл, үндэсний хямралд хүргэсэн.

Энэ хэрэг нь "систем алдаа гаргасан" гэдэг нь хууль эрх зүйн үндэслэлгүй хамгаалалт болохыг харуулсан. Байгууллагууд өөрсдийн ашиглахаар сонгосон технологиос үүдэлтэй үр дүнд хариуцлага хүлээдэг тул урьдчилан сэргийлэх засаглалыг зайлшгүй шаардлагатай болгодог.

Энэхүү гарын авлага нь өгөгдлийн эрдэмтдэд бус, бизнесийн удирдагчид болон менежерүүдэд зориулагдсан болно. Бид далд алдааг тодорхойлох, Нидерланд болон Европын Холбооны хуулийн дагуу таны хууль ёсны үүргийг ойлгох, танай компанийг хамгаалж, хариуцлагатай инновацийг дэмжих засаглалын хүрээг бий болгох практик, хэрэгжүүлэх боломжтой стратегиудыг өгөх болно.

Алгоритмын алдаа нь танай бизнест юу гэсэн үг вэ

Өөрийн хиймэл оюун ухааны системийг нэг талыг барьсан номын сангаас суралцаж буй оюутантай адилтгаж бодоорой. Хэрэв номууд нь хуучирсан хэвшмэл ойлголтоор дүүрэн эсвэл хүн бүрийг шударгаар төлөөлөхгүй бол тухайн оюутны ертөнцийг ойлгох ойлголт гажуудалтай байх болно. Тэдний шийдвэрүүд нь мөн адил өрөөсгөл үзлийг тусгах нь гайхах зүйл биш юм. Энэ бол товчхондоо алгоритмын нэг талыг барьсан байдал юм: хүний ​​​​талыг барьсан байдлын дижитал цуурай боловч хүмүүс хэзээ ч харьцуулж чадахгүй хэмжээнд, хурдаар нэмэгддэг.

Танай бизнесийн хувьд энэ бол хийсвэр техникийн асуудал биш. Энэ бол ноцтой хууль эрх зүй, санхүүгийн асуудалд хүргэх шууд зам юм. Алдаатай өгөгдөл дээр суурилсан эсвэл муу дизайны сонголтоор бүтээгдсэн таны хиймэл оюун ухааны загвар ялгаварлан гадуурхах үр дагаварт хүргэвэл танай байгууллага Нидерландын хуулийн дагуу хариуцлага хүлээх боломжтой бөгөөд хүлээх болно.

Техникийн алдаанаас хууль ёсны хариуцлага хүртэл

Асуудлын гол нь гаднаасаа төвийг сахисан мэт санагдах алгоритм нь гүнзгий ялгаварлан гадуурхах үр дүнд хүргэж болзошгүй юм. Автоматжуулсан системд хор хөнөөл учруулахын тулд хорлонтой санаа шаардлагагүй; хуулийн үүднээс түүний нөлөөлөл чухал юм. Энэ нь техникийн асуудал болон хууль эрх зүйн асуудлын хооронд шууд холбоог бий болгодог.

Нидерландын эрүүгийн хуулийн дагуу үүнийг онрехтматиге даад (хууль бус үйлдэл) гэж нэрлэдэг . Хэрэв таны хиймэл оюун ухааны системийн нэг талыг барьсан шийдвэр нь хохирол учруулбал - жишээлбэл, зээлийн өргөдлийг шударга бусаар татгалзах эсвэл мэргэшсэн ажлын нэр дэвшигчийг шалгаруулах зэргээр - танай компани хайхрамжгүй байдлын хариуцлагыг хүлээх болно. "Алгоритм үүнийг хийсэн" гэж маргах нь хүчин төгөлдөр хамгаалалт биш юм.

Танай байгууллага өөрийн ашиглаж буй хэрэгслүүдийн хариуцлагыг хүлээнэ. Хүн эсвэл алгоритмаас үүдэлтэй нэг талыг барьсан үр дүн нь хохирол, зохицуулалтын торгууль, нэр хүндэд ноцтой хохирол учруулах нэхэмжлэлийг өдөөж болно.

Энэ зарчмыг Нидерландад болсон Toeslagenaffaire буюу Хүүхдийн тэтгэмжийн дуулиан эмгэнэлтэйгээр харуулсан . 2015-2019 оны хооронд татварын албаны бие даан суралцах алгоритмууд мянга мянган эцэг эхийг залилан мэхлэгч гэж буруугаар тэмдэглэсэн бөгөөд энэ систем нь давхар иргэншилтэй хүмүүсийг илүү ихээр онилсон. Энэхүү автоматжуулсан үйл явц нь хамгаалагдсан шинж чанарт үндэслэн өндөр эрсдэлтэй шошго өгсөн нь GDPR-ийн автоматжуулсан шийдвэр гаргах дүрмийг илт зөрчсөн явдал юм.

Үр дагавар нь гамшигт үр дагаварт хүргэсэн. 30,000 гаруй гэр бүл тэтгэмжийг буцаан төлөхөөс өөр аргагүй болсон бөгөөд засгийн газрын нийт нөхөн төлбөр одоо 3 тэрбум еврогоос давна гэж тооцоолж байна . Хууль эрх зүйн үүднээс илүү гүнзгий судлахын тулд Нидерландын хиймэл оюун ухааны хуулийн энэхүү гүнзгий тойм нь Нидерландын хиймэл оюун ухааны зохицуулалтын талаар илүү дэлгэрэнгүй мэдээлэл өгөх болно.

Таны системд хэрхэн нэг талыг баримтлах хандлага нэвтэрч байна вэ

Алгоритмын алдаа нь ганц, тусгаарлагдсан асуудал биш юм. Энэ нь хиймэл оюун ухааныг хөгжүүлэх, байршуулах явцад олон цэгт нэвтэрч болно. Эдгээр эмзэг байдал хаана байгааг ойлгох нь алгоритмын алдааны хариуцлагыг удирдах эхний алхам юм.

• Нэг талыг барьсан сургалтын өгөгдөл: Хэрэв таны загварт оруулсан түүхэн өгөгдөл нь одоо байгаа нийгмийн нэг талыг барьсан байдлыг тусгасан бол (жишээлбэл, ихэвчлэн эрчүүдийг удирдах албан тушаалд байгааг харуулсан) хиймэл оюун ухаан эдгээр хэв маягийг хэвийн зүйл болгон сурч, хуулбарлах болно.

• Алдаатай загварын дизайн: Таны загварт сонгосон онцлог шинж чанарууд болон хувьсагчууд нь үндэс угсаа, хүйс зэрэг хамгаалагдсан шинж чанаруудтай санамсаргүйгээр хамааралтай байж болно. Үүний сонгодог жишээ бол шуудангийн кодыг зээлийн чадварын төлөөлөл болгон ашиглах явдал бөгөөд хэрэв эдгээр кодууд нь тодорхой хүн ам зүйн бүлгүүдтэй нягт холбоотой бол шууд бус ялгаварлан гадуурхалтад хүргэж болзошгүй юм.

• Шударга бус хэрэгжилт: Сайн боловсруулсан загварыг ч ялгаварлан гадуурхах байдлаар ашиглаж болно. Хэрэв нүүр царай таних систем нь бараан арьстай хүмүүст бага нарийвчлалтай байвал аюулгүй байдлын хүрээнд ашиглах нь тодорхой бүлгийн эсрэг худал буруутгах түвшинг нэмэгдүүлэхэд хүргэж болзошгүй юм.

Эдгээр цэг бүр нь хууль эрх зүйн алдаа гарах магадлалтайг илэрхийлж байна. Гол дүгнэлт бол алгоритмын алдаа нь зөвхөн мэдээллийн технологийн асуудал биш юм. Энэ бол хууль эрх зүй болон удирдлагын багуудын хяналтыг шаарддаг бизнесийн гол эрсдэл юм. Үүнийг үл тоомсорлох нь танай байгууллагыг хууль эрх зүй болон санхүүгийн ноцтой үр дагаварт өртөхийг хэлнэ.

Нидерланд болон Европын Холбооны хуулийн дагуух хууль ёсны үүргээ ойлгох нь

Хиймэл оюун ухааны систем буруу зүйл хийж, хор хөнөөл учруулсан тохиолдолд та тодорхой "хиймэл оюун ухааны хууль" хэрэгжиж байна гэж үзэж болно. Бодит байдал дээр энэ нь тийм ч энгийн зүйл биш юм. Хариуцлагыг одоо байгаа болон шинэ хууль эрх зүйн хүрээний хослолоор тодорхойлдог.

Нидерландад хиймэл оюун ухааныг ашигладаг аливаа бизнесийн хувьд алгоритмын алдааны хариуцлагыг ойлгох нь гурван гол тулгуур багана болох Нидерландын Зөрчлийн тухай хууль, GDPR, удахгүй гарах Европын Холбооны хиймэл оюун ухааны тухай хууль гэсэн гурван үндсэн тулгуур баганатай танилцах гэсэн үг юм. Эдгээр нь тус бүр асуудлыг өөр өөр өнцгөөс авч үзэж, эрсдэлээ удирдахын тулд таны чиглүүлэх шаардлагатай дагаж мөрдөх үүргийн сүлжээг бий болгодог.

Сан: Голландын Зөрчлийн тухай хууль

Хамгийн энгийн түвшинд, хэрэв таны хиймэл оюун ухаан хэн нэгэнд хохирол учруулсан бол Нидерландын Зөрчлийн тухай хуулийн дагуу нэхэмжлэл гаргаж болно. Тодруулбал, Нидерландын Иргэний хуулийн 6:162 дугаар зүйл ( Burgerlijk Wetboek ) . Энэхүү урт хугацааны зарчим нь бусдад хор хөнөөл учруулсан аливаа хууль бус үйлдлийн ( onrechtmatige daad ) хариуцлагыг хамардаг .

Тэгэхээр энэ нь нэг талыг барьсан алгоритмд хэрхэн хамаарах вэ? Хууль бус үйлдэл нь таны хайхрамжгүй байдал байж болно. Дараах нөхцөл байдлыг бодоод үз дээ:

• Хиймэл оюун ухааны системийг алдаатай эсэхийг сайтар шалгахгүйгээр байршуулах.

• Гажуудсан эсвэл ялгаварлан гадуурхсан өгөгдөл ашиглан загвараа сургах.

• Алгоритм ажиллаж эхэлмэгц алдаатай үр дүнг хянах боломжгүй байна.

• Систем шударга бус шийдвэр гаргаж байгаагийн тодорхой шинж тэмдгүүдийг үл тоомсорлох.

Хэрэв таны хиймэл оюун ухааны улмаас хэн нэгэн зээл, ажил эсвэл орон сууц авахаас шударга бусаар татгалзсан бөгөөд тэд танай байгууллагын хайхрамжгүй байдал ийм үр дүнд хүргэсэн болохыг нотолж чадвал тэд таны эсрэг баттай үндэслэлтэй. Энэхүү хууль эрх зүйн үүднээс авч үзвэл алгоритмын алдаа нь хор хөнөөл учруулдаг бусад бизнесийн алдаанаас ялгаатай биш юм.

Автоматжуулсан шийдвэр гаргахад GDPR-ийн хүчирхэг үүрэг

Дараа нь, Ерөнхий Мэдээллийн Хамгаалалтын Журам (GDPR) нь өгөгдлийн нууцлал болон автоматжуулсан шийдвэр гаргалтад шударга ёсыг чухалчилдаг чухал давхаргыг нэмж оруулсан. Үүний алгоритмын алдаатай байдалд үзүүлэх нөлөө нь мэдэгдэхүйц юм.

Энд гол зүйл бол GDPR-ийн 22 дугаар зүйл юм. Энэ нь хувь хүмүүст зөвхөн автомат боловсруулалт, тухайлбал профайл үүсгэхэд суурилсан шийдвэрт хамаарахгүй байх эрхийг олгодог бөгөөд хэрэв уг шийдвэр нь тэдэнд хууль эрх зүйн болон үүнтэй төстэй мэдэгдэхүйц нөлөө үзүүлбэл хувь хүмүүст хамаарахгүй .

Энгийнээр хэлбэл, ажилд авах, халах, зээлийн оноо авах гэх мэт өндөр эрсдэлтэй шийдвэрүүдийн хувьд та зөвхөн алгоритмд эцсийн шийдвэрийг гаргах боломжгүй. Хүний хяналт байх ёстой. Эдгээр тохиолдолд зөвхөн машинд найдах нь шууд зөрчил бөгөөд торгууль нь ихээхэн байж болно.

Үүнээс гадна, GDPR-ийн шударга ёс, ил тод байдлын зарчим нь та хиймэл оюун ухаанаа хэрхэн шийдвэр гаргадгаа тайлбарлаж чаддаг байх ёстой гэсэн үг юм. Хэрэв та чадахгүй бол хууль эрх зүйн үндэслэл муутай байна. GDPR-ийг зөрчсөн тохиолдолд ногдуулах торгууль нь ноцтой бөгөөд 20 сая евро буюу дэлхийн жилийн эргэлтийн 4%-д хүрч болзошгүй бөгөөд аль нь өндөр байгаагаас хамаарна.

Ирээдүйн төлөв: Европын Холбооны хиймэл оюун ухааны тухай хууль

Эдгээр эрсдэлийг чиглэсэн хамгийн шууд зохицуулалт бол удахгүй батлагдах Европын Холбооны хиймэл оюун ухааны тухай хууль юм . Энэ нь хиймэл оюун ухааны хууль эрх зүйн орчныг өөрчлөх эрсдэлд суурилсан хүрээг нэвтрүүлж байна. Уг хууль нь хиймэл оюун ухааны системийг хор хөнөөл учруулах боломжит түвшингээс нь хамааран ангилж, "өндөр эрсдэлтэй" гэж тооцогддог системүүдэд хамгийн хатуу хязгаарлалт тавьдаг.

Ажилд авах, ажилтны менежмент, зээлийн өргөдөлд ашигладаг хиймэл оюун ухаан гэх мэт олон нийтлэг бизнесийн хэрэгслүүд энэхүү өндөр эрсдэлтэй ангилалд шууд багтах төлөвтэй байна.

Европын Холбооны хиймэл оюун ухааны тухай хууль эдгээр өндөр эрсдэлтэй системүүдэд юу шаардах талаар товч тоймыг энд оруулав.

• Хиймэл оюун ухааныг ашиглахаас өмнө хатуу тохирлын үнэлгээ хийдэг .

• Эхнээсээ л алдаа гаргах эрсдэлийг багасгахын тулд өндөр чанартай өгөгдлийн багц .

• Мөрдөх чадварыг хангахын тулд нарийвчилсан техникийн баримт бичиг , бүртгэл.

• Хэрэглэгчид хиймэл оюун ухаантай харилцаж байгаагаа ойлгохын тулд ил тод байдлын тодорхой хэмжүүрүүд.

• Эрсдэлтэй үр дагаврыг засах, хөндлөнгөөс оролцохын тулд хүний ​​​​хүчтэй хяналт .

Эдгээр хүрээг тодорхой болгохын тулд алгоритмын хариуцлагын өөр өөр хандлагыг харьцуулсан хүснэгтийг энд оруулав.

Алгоритмын хариуцлагын эрх зүйн хүрээг харьцуулах нь

Хүснэгтээс харахад хууль эрх зүйн үр дагавар нь олон талаас үүдэлтэй. Зөрчлийн хуулийн дагуу энгийн хайхрамжгүй байдал гэж үзэж болох зүйл нь GDPR-ийн томоохон зөрчил болон Европын Холбооны хиймэл оюун ухааны тухай хуулийг нэгэн зэрэг зөрчих явдал байж болно.

Хиймэл оюун ухааны тухай хуулийг дагаж мөрдөөгүй тохиолдолд ногдуулах торгууль нь GDPR-ийн дагуу ногдуулдаг торгуулиас ч илүү байхаар тогтоогдсон. Энэхүү шинэ хууль нь хариуцлагатай хиймэл оюун ухааны практикийг "сайхан байх"-аас хатуу хууль эрх зүйн шаардлага болгон хувиргаж байна. Та Хиймэл оюун ухаан болон Европын Холбооны хиймэл оюун ухааны тухай хуулийн талаарх манай дэлгэрэнгүй гарын авлагаас нарийн ширийн зүйлийг илүү гүнзгий судлах боломжтой.

Бодит ертөнцөд хариуцлага хэрхэн илэрдэг вэ

Хууль эрх зүйн онол, зохицуулалтын талаар хэлэлцэх нь нэг хэрэг, харин бодит бизнест хэрхэн нөлөөлж байгааг харах нь өөр хэрэг. Алгоритмын алдааны хариуцлагыг үнэхээр ойлгохын тулд бид Нидерландын шүүхүүд эдгээр зарчмуудыг бодит үр дагаварт хэрхэн хөрвүүлж байгааг харах ёстой. Эдгээр жишээнүүд нь эрсдэлийг хийсвэр байдлаас гаргаж аваад өдөр тутмын үйл ажиллагааны бодит байдалд шууд байрлуулдаг.

Хариуцлага гэдэг нь холын аюул биш гэдгийг түүхэн жишээнүүд болон бизнесийн практик хувилбарууд харуулж байна. Энэ бол санхүүгийн болон нэр хүндийн ихээхэн зардалтай маш бодит, өнөөгийн асуудал юм.

Голландын жишиг: SyRI-ийн шийдвэр

Нидерландын хууль тогтоомжид алгоритмын нэг хэвийсэн хандлага үүсэх гол мөч нь 2020 оны 2-р сард гарсан SyRI-ийн шийдвэр байв. Энэ хэрэг нь засгийн газрын залилан мэхлэлтийг илрүүлэхэд ашигладаг нууц алгоритм болох Системийн эрсдэлийн заалт (SyRI) платформтой холбоотой байв. Энэхүү систем нь 17 өөр яамны өгөгдлийг цуглуулж, нийгмийн халамж, татвар болон бусад тэтгэмжтэй холбоотой залилангийн болзошгүй тохиолдлуудыг шалгаж үзсэн.

Гаагийн дүүргийн шүүх уг платформыг хүний ​​эрхийг зөрчсөн гэж үзэн зогсоосон. Шүүхийн шийдвэр нь хиймэл оюун ухаан ашигладаг аливаа байгууллагад хүчтэй сургамж болдог хэд хэдэн гол алдааг онцолсон. SyRI-ийн үйл явц нь тунгалаг бус, зайлшгүй шаардлагатай нь нотлогдоогүй, ялгаварлан гадуурхах эрсдэл өндөр байгааг тогтоосон. Систем нь хувь хүнд чиглэсэн мөрдөн байцаалтгүйгээр "ер бусын өгөгдлийн хослол"-ыг тэмдэглэсэн бөгөөд энэ нь хувийн нууцлал, шударга ёсыг шууд зөрчсөн гэж үздэг. Энэхүү шийдвэр нь тодорхой мессеж илгээсэн: ил тод байдал дутмаг, ялгаварлан гадуурхах өндөр магадлал нь хууль эрх зүйн арга хэмжээ авах үндэслэл болно.

SyRI-ийн хэрэг нь тодорхой дохио байсан: та "хар хайрцаг" алгоритмын ард нуугдаж чадахгүй. Байгууллагууд автоматжуулсан системийнхээ гаргасан шийдвэрийг, ялангуяа эдгээр шийдвэрүүд хүмүүсийн амьдралд гүнзгий нөлөөлж байгаа үед ойлгож, зөвтгөж, хамгаалах үүрэгтэй.

Хиймэл оюун ухаан алдаа гаргахад хэн хариуцлага хүлээхийг тодорхойлох нь төвөгтэй боловч эрсдэлийн удирдлагын чухал хэсэг юм. Илүү дэлгэрэнгүй мэдээллийг авахыг хүсвэл Хиймэл оюун ухааны гаргасан алдааны хариуцлагыг хэн хүлээх тухай манай нийтлэлийг үзнэ үү.

Хариуцлага үүсэх нийтлэг нөхцөл байдал

Засгийн газрын өндөр зэрэглэлийн хэргүүдээс гадна өдөр тутмын бизнесийн үйл ажиллагаанд алгоритмын алдааны хариуцлага ихэвчлэн гарч ирдэг. Эдгээр нийтлэг нөхцөл байдал нь сайн санаатай систем хэр амархан ноцтой хууль эрх зүйн хохирол учруулж болохыг харуулж байна.

1. Нэг талыг барьсан ажилд авах алгоритм
Компани хамгийн сайн нэр дэвшигчдийг илүү үр дүнтэй олохын тулд мянга мянган анкетыг шалгах шинэ хиймэл оюун ухааны хэрэгслийг авчирсан гэж төсөөлөөд үз дээ. Алгоритмыг компанийн өөрийн арван жилийн ажилд авах мэдээлэлд үндэслэн сургасан бөгөөд харамсалтай нь энэ нь техникийн албан тушаалд тодорхой нэр дэвшигчдийн түүхэн давуу талыг тусгасан болно.

• Хууль эрх зүйн алдаа: Хиймэл оюун ухаан энэ хэв маягийг сурч, бусад нэр дэвшигчдийн мэргэшил ижил байсан ч гэсэн системтэйгээр зэрэглэлийг нь бууруулж эхэлдэг. Энэ нь Нидерландын ялгаварлан гадуурхалтын эсрэг хуулийг зөрчсөн ялгаварлан гадуурхах үр дагаварт хүргэдэг.

• Үр дагавар: Тус компани одоо татгалзсан өргөдөл гаргагчдаас үүдэлтэй хууль эрх зүйн маргаан, зохицуулагчдын мөрдөн байцаалт, тэгш боломжийн ажил олгогчийн нэр хүндэд ноцтой хохирол учруулж байна. Санхүүгийн хохиролд өргөдөл гаргагчдад учирсан болзошгүй хохирол, ажилд авах үйл явцыг бүрэн шинэчлэх зардал багтаж байна.

2. Ялгаварлан гадуурхах зээлийн өргөдлийн систем
Санхүүгийн байгууллага зээлийн шийдвэрээ автоматжуулахын тулд алгоритм ашигладаг. Эрсдэлийг үнэлэхийн тулд загварт өргөдөл гаргагчдын шуудангийн кодыг өгөгдлийн цэг болгон оруулсан болно. Асуудал нь тодорхой шуудангийн кодууд нь үндэстний цөөнх болон бага орлоготой хорооллуудтай нягт холбоотой байдагт оршино.

• Хууль эрх зүйн алдаа: Алгоритм нь эдгээр шуудангийн кодуудаас өргөдөл гаргагчдад хувийн санхүүгийн эрүүл мэндээс нь үл хамааран хамаагүй өндөр хүүтэйгээр зээл олгохоос татгалзаж эхэлдэг. Энэ нь шууд бус ялгаварлан гадуурхалттай дүйцдэг, учир нь шуудангийн код нь арьс өнгө, үндэс угсаа зэрэг хамгаалагдсан шинж чанаруудыг төлөөлж байдаг.

• Үр дагавар: Тус байгууллага нь Нидерланд болон Европын Холбооны хуулийн дагуу ялгаварлан гадуурхсан зээлийн үйл ажиллагааны улмаас шүүхэд нэхэмжлэл гаргаж, торгууль ногдуулж байна. Нэр хүндэд учруулсан хохирол нь аймшигтай байж болзошгүй бөгөөд энэ нь хэрэглэгчдийн итгэлийг алдаж, олон нийтийн дургүйцлийг төрүүлж болзошгүй юм.

Магадгүй үүнийг даатгалын нэхэмжлэлд хиймэл оюун ухааныг ашиглахаас илүү сайн харуулсан салбар байхгүй байх , учир нь нэг талыг барьсан шийдвэрүүд нь хууль эрх зүйн болон нэр хүндийн томоохон үр дагаварт хүргэж болзошгүй юм.

Эдгээр жишээ бүр нь чухал санааг онцолж байна: таны зорилго үр нөлөө шиг тийм ч чухал биш. Танай компани ашигладаг хиймэл оюун ухааныхаа үр дүнд хариуцлага хүлээнэ. Энэ нь урьдчилан сэргийлэх аудит болон засаглалыг зөвхөн сайн санаа төдийгүй хууль эрх зүйн зайлшгүй шаардлага болгож байна.

Хиймэл оюун ухааны эрсдэлийг бууруулах практик хүрээ

Алгоритмын алдааны хариуцлагын цаад хууль эрх зүйн онолыг ойлгох нь нэг хэрэг, гэхдээ энэ мэдлэгийг хэрэгжүүлэх нь танай байгууллагыг үнэхээр хамгаалдаг. Асуудлыг илрүүлэхээс эхлээд тэдгээрийг бодитоор засах хүртэл шилжих нь хиймэл оюун ухааныг хэрхэн удирдах талаар бүтэцлэгдсэн, урьдчилан сэргийлэх арга барилыг шаарддаг. Үр дүнтэй хүрээ нь инновацийг зогсоох тухай биш; энэ нь хиймэл оюун ухааныг өөртөө итгэлтэй, хариуцлагатайгаар ашиглах боломжийг олгодог хашлага бий болгох тухай юм.

Энэ нь хиймэл оюун ухааны системийн анхны загвар эсвэл худалдан авалтаас эхлээд тасралтгүй ашиглагдаж, эцэст нь ашиглалтаас гарах хүртэлх бүхэл бүтэн амьдралын мөчлөгийг хамарсан тодорхой дотоод бодлого, журмыг тогтоох гэсэн үг юм. Зорилго нь хууль эрх зүйн болон нэр хүндэд хохирол учруулахаас өмнө алдааг тодорхойлж, хэмжиж, бууруулж чадах хяналт шалгалт, тэнцвэрийн системийг бий болгох явдал юм.

Иж бүрэн алдааны аудит хийх

Хиймэл оюун ухааны эрсдэлийг удирдах аливаа стратегийн тулгын чулуу нь нэг талыг баримтлах аудит юм. Эдгээр үнэлгээ нь нэг удаагийн үйл явдал биш, харин тасралтгүй үйл явц байх ёстой.

• Байршуулалтын өмнөх аудит: Аливаа хиймэл оюун ухааны системийг ашиглалтад оруулахаас өмнө хамгаалагдсан бүлгүүдийн эсрэг ялгаварлан гадуурхах үр дүнг сайтар шалгах ёстой. Үүнд сургалтын өгөгдлийг далд алдааг шалгах, загварыг олон янзын төлөөллийн өгөгдлийн багцаар стресс тест хийх зэрэг орно.

• Байршуулалтын дараах хяналт: Систем ажиллаж эхэлмэгц түүний шийдвэрийг тасралтгүй хянаж байх ёстой. Ашиглалтад оруулахдаа шударга байсан алгоритм нь шинэ өгөгдөлтэй тулгарах тусам цаг хугацааны явцад алдаа гаргаж болзошгүй. Тогтмол аудит нь энэхүү "загварын хэлбэлзлийг" хууль ёсны хариуцлага хүлээхээс өмнө илрүүлэхэд тусалдаг.

Хариуцлагын тодорхой шугамыг тогтоох

Хиймэл оюун ухааны засаглал бүтэлгүйтдэг нийтлэг шалтгаан бол тодорхой бус хариуцлага юм. Үүнээс зайлсхийхийн тулд танай байгууллага хиймэл оюун ухааны үр дүнд тодорхой эзэмшлийн эрхийг олгох ёстой.

Энэ нь хиймэл оюун ухааны системийг хянах, аудитын үр дүнг хянах, загварын тохируулга хийх эсвэл системийг унтраах талаар шийдвэр гаргах эрх бүхий тодорхой хүн эсвэл хороог томилох гэсэн үг юм. Энэхүү бүтэц нь хиймэл оюун ухааны эрсдэлийг удирдах нь идэвхтэй, удирддаг үйл явц гэдгийг баталгаажуулдаг.

Баримтжуулалт ба нийлүүлэгчийн менежментийн чухал үүрэг

Хууль эрх зүйн маргаан үүссэн үед таны хамгийн сайн хамгаалалт бол сайтар баримтжуулах явдал юм. Мэдээллийн эх сурвалж, загвар баталгаажуулалтын үйл явц, аудитын үр дүн, алдааг засахын тулд авсан аливаа алхмуудынхаа нямбай бүртгэлийг хөтлөх нь зохих ёсны хяналт шалгалтыг харуулахад чухал ач холбогдолтой. Мэдээллийн нууцлалын зохицуулалт хөгжихийн хэрээр эдгээр шинэ шаардлагыг ойлгох нь чухал юм. Та GDPR нь хиймэл оюун ухаан болон том өгөгдөлтэй хэрхэн хөгжиж байгаа талаар манай дэлгэрэнгүй дүн шинжилгээнээс илүү ихийг мэдэж болно.

Хэрэв та гуравдагч талын хиймэл оюун ухаан нийлүүлэгчидтэй хамтран ажиллаж байгаа бол энэхүү нягт нямбай ажиллагаа нь таны гэрээнд хамаарах ёстой.

Таны худалдан авалтын гэрээнд шударга, шаардлага хангасан системийг хангахын тулд нийлүүлэгчийн үүрэг хариуцлагыг тодорхойлсон тодорхой заалтууд орсон байх ёстой. Эдгээр гэрээнд гүйцэтгэлийн стандарт, аудитын эрх, хамгийн чухал нь систем нь нэг талыг барьсан үр дүн гаргавал хариуцлагыг хэрхэн хуваарилах талаар тодорхой заасан байх ёстой.

Эцсийн дүнд энэхүү хүрээ нь хиймэл оюун ухааны засаглалыг онолын ойлголтоос тодорхой, хэрэгжүүлэх боломжтой алхмуудын багц болгон хувиргадаг. Үйл ажиллагаандаа аудит, хариуцлага, нарийн баримтжуулалтыг оруулснаар та хямралд хариу үйлдэл үзүүлэхийн оронд алгоритмын алдааны хариуцлагыг урьдчилан сэргийлэх замаар удирдаж чадна.

Идэвхтэй хиймэл оюун ухааны удирдлагын стратеги боловсруулах

Алгоритмын алдааны хариуцлагыг шийдвэрлэх нь хуулийн хэлтсийн хувьд зүгээр нэг чагтлах дасгал биш юм. Энэ бол хэрэглэгчийн итгэлийг бий болгож, танай брэндийн нэр хүндийг хамгаалах стратегийн алхам юм. Голландын Зөрчлийн тухай хууль, GDPR болон Европын Холбооны хиймэл оюун ухааны тухай хуулийн дагуух хууль эрх зүйн эрсдэлүүд нь маш бодитой бөгөөд бизнесийн удирдагчдаас одоо анхаарал шаардаж байна. Асуудал гарч ирэх үед нь хариу арга хэмжээ авах нь цаашид хэрэгжих боломжгүй болсон.

Урьдчилан сэргийлэх арга барил гэдэг нь бат бөх засаглалын хүрээг бий болгох гэсэн үг юм. Энэ нь ганц аудит эсвэл тодорхой бус бодлогоос давсан зүйл юм. Энэ нь танай байгууллагын соёл, өдөр тутмын үйл ажиллагаанд хариуцлага тооцох асуудлыг нэвтрүүлэх тухай юм.

Хариуцлагатай хиймэл оюун ухааныг нэвтрүүлэх тулгуур багана

Бат бөх стратеги нь хийсвэр зарчмуудыг бодит үйлдэл болгон хувиргадаг хэд хэдэн гол тулгуур дээр суурилдаг. Хууль эрх зүйн эрсдэлээ багасгахыг эрмэлздэг аливаа бизнесийн хувьд эдгээр нь хэлэлцээр хийх боломжгүй зүйлс юм.

• Тасралтгүй аудит: Нэгэнт л нэг удаа шийддэг асуудал биш. Цаг хугацаа өнгөрөх тусам үүсдэг ялгаварлан гадуурхах хандлагыг илрүүлж, засахын тулд та хиймэл оюун ухааны системүүдээ байршуулахаасаа өмнө болон дараа нь тогтмол, хуваарьт аудит хийх шаардлагатай.

• Ил тод засаглал: Хиймэл оюун ухааны үр дүнг хариуцсан тодорхой хүн эсвэл тусгай хороог томилно. Энэ нь хэн нэгэн гүйцэтгэлийг хянах, аудитын үр дүнг хянах, системийн тохируулга хийх эсвэл системийг унтраах талаар хатуу шийдвэр гаргах эрх мэдэлтэй болохыг баталгаажуулдаг.

• Нарийвчилсан баримтжуулалт: Хэрэв та шүүх дээр хиймэл оюун ухаанд суурилсан шийдвэрийг хамгаалах шаардлагатай бол таны бүртгэл таны хамгийн сайн найз байх болно. Өгөгдлийн эх сурвалж, загвар баталгаажуулалтын тест, олсон алдаагаа засахын тулд хийсэн алхам бүрийн талаарх дэлгэрэнгүй баримтжуулалтыг хадгал.

Батлан ​​​​хамгаалалтаас давуу тал руу шилжих

Эдгээр шаардлагыг зөвхөн дарамт гэж үзэх нь ерөнхий дүр зургийг алдагдуулж байна. Хиймэл оюун ухааны эрсдэлийг удирдах сайн бүтэцтэй арга барил нь танай компанийг өгөгдөлд суурилсан ертөнцөд хариуцлагатай удирдагч болгож байрлуулдаг. Урьдчилан сэргийлэх стратеги боловсруулах нь хууль эрх зүйн хиймэл оюун ухааны засаглалыг гүнзгий ойлгох , нийцлийг хангах, хариуцлагатай хиймэл оюун ухааныг байршуулахыг шаарддаг.

Эцсийн зорилго бол аюулгүй, ёс зүйтэй, хууль ёсны дагуу бат бөх хамгаалалтын хүрээнд инноваци цэцэглэн хөгжих орчныг бүрдүүлэх явдал юм. Энэ нь ирээдүйн зохицуулалтын өөрчлөлтийн эсрэг тэсвэр тэвчээрийг бий болгож, үйлчлүүлэгчид болон түншүүдийн өмнө таны нэр хүндийг бэхжүүлнэ.

Эхний алхам бол эрсдэлийг хүлээн зөвшөөрч, тэдгээрийг шийдвэрлэхийн тулд шийдэмгий алхам хийх явдал юм. Хиймэл оюун ухааны эрсдэлийн удирдлагын стратеги боловсруулахын тулд мэргэшсэн хууль эрх зүйн зөвлөгөө авах нь цаашид сонголт биш болсон бөгөөд энэ нь орчин үеийн корпорацийн менежментийн үндсэн бүрэлдэхүүн хэсэг юм. Алгоритмын алдаатай холбоотой хариуцлагыг хяналтандаа авснаар та бизнесээ хамгаалж, шударга ёс, ил тод байдлыг хангах үүрэг амлалтаа баталгаажуулж байна.

Алгоритмын алдааны хариуцлагын талаар байнга асуудаг асуултууд

Бизнесүүд хиймэл оюун ухааныг гүнзгий судлах тусам олон удирдагчид хариуцлагын талаар маш тодорхой асуултууд асуудаг. Доор бид хамгийн түгээмэл бөгөөд бэрхшээлтэй асуултуудын заримыг авч үзэж, энэхүү нарийн төвөгтэй хууль эрх зүйн чиглэлээр ажиллахад тань туслах тодорхой хариултуудыг санал болгож байна.

Хэрэв манай гуравдагч талын хиймэл оюун ухаан нэг талыг барьсан бол хэн хариуцлага хүлээх вэ - худалдагч уу эсвэл бид үү?

Энэ нь ховор тохиолдолд энгийн асуулт бөгөөд хариулт нь бараг үргэлж байдаг: энэ нь төвөгтэй. Хариуцлага нь ихэвчлэн хуваалцдаг бөгөөд нөхцөл байдлын онцлогоос ихээхэн хамаардаг. Хиймэл оюун ухааны хөгжүүлэгч нь согогтой эсвэл шаардлага хангаагүй бүтээгдэхүүн нийлүүлсэн тохиолдолд хариуцлага хүлээж болно. Гэсэн хэдий ч системийг ашиглаж буй байгууллагын хувьд та өөрийн гэсэн хууль ёсны үүрэгтэй.

Европын Холбооны хиймэл оюун ухааны тухай хууль болон GDPR зэрэг хүрээний дагуу танай компани хиймэл оюун ухааныг хэрхэн хэрэгжүүлж, хянах үүрэгтэй. Энэ нь та худалдан авч буй технологийг шалгаж, нэг талыг барьсан үр дүнг хянаж, хэрэглээ нь үндсэндээ шударга байгаа эсэхийг баталгаажуулах үүрэгтэй гэсэн үг юм.

Сайн боловсруулсан гэрээ нь та болон нийлүүлэгчийн хооронд санхүүгийн эрсдэлийг хуваарилахад тусалж болох ч хэрэв та системийг хэрхэн байршуулж, хянаж байгаадаа хайхрамжгүй хандсан бол энэ нь танай компанийг зохицуулалтын торгууль эсвэл иргэний нэхэмжлэлээс хамгаалахгүй.

Шүүх дээр бидний алгоритм ялгаварлан гадуурхалтгүй гэдгийг хэрхэн батлах вэ?

Таны хамгийн сайн хамгаалалт бол урьдчилан сэргийлэх, нямбай баримтжуулалт дээр суурилдаг. Та хиймэл оюун ухааны загварын бүхэл бүтэн амьдралын мөчлөгийг хамарсан нямбай бүртгэл хөтлөх хэрэгтэй. Энэ бол хууль эрх зүйн маргаан гарсны дараа та өөрөө хийж чадах зүйл биш юм.

Таны баримт бичиг нь дараахь зүйлийг багтаасан амьд бүртгэл байх ёстой.

• Өгөгдлийн эх сурвалж: Сургалтын өгөгдөл хаанаас ирсэн талаарх дэлгэрэнгүй бүртгэлүүд, мөн үүнийг цэвэрлэж, төрөлхийн алдааг шалгахын тулд хийсэн алхмууд.

• Загварын баталгаажуулалт: Ялгаварлан гадуурхах хэв маягийг олж, засахын тулд байршуулахаас өмнө хийсэн нарийн туршилтын баттай нотолгоо.

• Тогтмол алдааны аудит: Цаг хугацаа өнгөрөх тусам гарч ирж буй алдааг илрүүлж, засахын тулд та системийг тасралтгүй хянаж байгаагийн нотолгоо.

• Шийдвэр гаргах логик: Систем хэрхэн дүгнэлтэд хүрдэг, ялангуяа өндөр эрсдэлтэй шийдвэрүүдийн талаар тодорхой, ойлгомжтой тайлбарууд.

Европын Холбооны Хиймэл Оюун Ухааны тухай хуулийн дагуу өндөр эрсдэлтэй аливаа хиймэл оюун ухааны системийн хувьд энэхүү түвшний техникийн баримт бичиг нь зөвхөн сайн туршлага төдийгүй, заавал биелүүлэх хууль эрх зүйн шаардлага юм. Энэхүү нотлох баримт нь та зохих ёсоор нягт нямбай ажиллаж, хайхрамжгүй байдлын нэхэмжлэлээс хамгаалахад найдах зүйл юм.

Тайлбарлах боломжтой хиймэл оюун ухаан (XAI) ашиглах нь бидний хариуцлагын эрсдэлийг арилгадаг уу?

Үгүй ээ, гэхдээ энэ нь эрсдэлийг удирдах чухал хэсэг юм. Тайлбарлаж болох хиймэл оюун ухаан (XAI) нь GDPR-ийн дагуу ил тод байдлын үүргийг биелүүлэхэд чухал хэрэгсэл бөгөөд энэ нь алгоритмын шийдвэр гаргах үйл явцыг хүмүүст ойлгомжтой болгоход тусалдаг. Энэ нь таныг яагаад шийдвэр гаргасныг хэн ч хэлж чадахгүй хууль эрх зүйн хувьд аюултай "хар хайрцаг"-ны асуудлаас холдуулдаг.

Гэсэн хэдий ч шударга бус үр дүнг зүгээр л тайлбарлах нь шударга болгохгүй. Хэрэв шийдвэрийн шалтгаан нь загвар нь хамгаалагдсан шинж чанарт тулгуурласан болохыг харуулсан бол (жишээлбэл, шуудангийн кодыг үндэс угсааны төлөөлөл болгон ашигласан) та хариуцлага хүлээх болно.

XAI нь сайн засаглалын стратегийн чухал хэсэг боловч бүрэн шийдэл биш юм. Үүнийг илэрсэн үед алдааг засах, хохирсон хүмүүст бодит нөхөн сэргээх арга хэмжээ авахын тулд бат бөх үйл явцтай хослуулах ёстой.

Эдгээр нарийн төвөгтэй хиймэл оюун ухааны хариуцлагын дүрэм нь жижиг дунд үйлдвэрүүдэд хамаарах уу?

Тийм ээ, тэд тэгдэг. Голландын эрүүгийн хууль болон ялгаварлан гадуурхалтын эсрэг хууль зэрэг үндсэн хууль эрх зүйн зарчмууд нь хэмжээнээс үл хамааран бүх бизнест хамаарна. Европын Холбооны хиймэл оюун ухааны тухай хуульд жижиг, дунд үйлдвэрүүдийн (ЖДҮ) дагаж мөрдөх ачааллыг хөнгөвчлөх зарим заалтууд багтсан боловч эдгээр нь нийт чөлөөлөлт биш юм.

Хэрэв танай жижиг дунд бизнес эрхлэгч ажилд авах, зээлийн оноо авах, ажилтны гүйцэтгэлийн хяналт гэх мэт өндөр эрсдэлтэй чиглэлээр хиймэл оюун ухааныг ашигладаг бол та томоохон корпорациудын нэгэн адил хатуу чанд дагаж мөрдөх үүрэгтэй тулгарах болно. GDPR нь мөн бүх талын хэрэгжилтийг хангадаг. Жижиг дунд бизнесийн хувьд эдгээр эрсдэлийг үл тоомсорлох нь торгууль, шүүхийн нэхэмжлэлд хүргэж болзошгүй тул хиймэл оюун ухааны хэрэгслүүдээ үнэлж, хууль ёсны хариуцлагаа эхнээс нь ойлгох нь чухал юм.

At Law & More, бид танай бизнест хиймэл оюун ухааны зохицуулалт, хариуцлагын нарийн төвөгтэй орчинд туслах мэргэжлийн хууль эрх зүйн зөвлөгөө өгдөг. Манай баг таны технологийн хэрэглээг шинэлэг бөгөөд нийцтэй байлгахын тулд прагматик, захиалгат зөвлөгөө өгдөг. Танай компанийг хамгаалах урьдчилан сэргийлэх хиймэл оюун ухааны засаглалын стратеги боловсруулахын тулд бидэнтэй холбогдоно уу. Дэлгэрэнгүй мэдээллийг эндээс авна уу. https://lawandmore.eu.