Таны менежерийн хувьд AI: алгоритм таны гүйцэтгэлийг үнэлж чадах уу?

Тийм ээ, алгоритм нь таны гүйцэтгэлийг үнэлж чадна. Үнэн хэрэгтээ энэ нь улс орон даяар ажлын байранд аль хэдийн тохиолдож байна. Уламжлалт хүний ​​хяналтаас татгалзаж, хиймэл оюун ухаанд суурилсан менежмент рүү чиглэсэн энэхүү алхам нь гайхалтай үр ашгийг авчирдаг ч хууль эрх зүй, ёс зүйн чухал асуултуудыг нээж өгдөг. Ажилчдын хувьд энэхүү шинэ бодит байдал нь тэдний эрхийн шинэ ойлголтыг шаарддаг.

Алгоритм удирдлагын бодит байдал

"Таны менежерийн хувьд хиймэл оюун ухаан" гэсэн санаа нь холын ойлголт биш болсон; Энэ нь өсөн нэмэгдэж буй хүмүүсийн өдөр тутмын бодит байдал юм. Компаниуд ажилтнуудаа хянах, үнэлэх, бүр чиглүүлэхийн тулд автоматжуулсан системийг улам бүр ашиглаж байгаа бөгөөд энэ нь бүтээмжийг нэмэгдүүлэх бодитой, өгөгдөлд тулгуурласан ойлголттой болно гэсэн амлалтаас үүдэлтэй.

AI менежерийг уйгагүй спортын скаут гэж төсөөлөөд үз дээ. Энэ нь хэмжиж болох бүх нарийн ширийн зүйлийг хянах боломжтой: нэг цагт гүйцэтгэсэн ажил, хэрэглэгчийн сэтгэл ханамжийн оноо, гарын үйл ажиллагаа, скриптийг хэр нягт дагаж мөрддөг зэргийг хянах боломжтой. Энэхүү дижитал скаут хэзээ ч унтдаггүй бөгөөд асар их хэмжээний өгөгдлийг хэдхэн секундын дотор боловсруулж чаддаг бөгөөд хүний ​​менежер анзаарахад хэдэн сар зарцуулагдаж магадгүй юм. Гэхдээ эндээс маш чухал асуулт гарч ирнэ: энэ скаут тоглолтыг бүхэлд нь харж чадах уу?

Үндсэн зөрчил: Өгөгдлийн эсрэг контекст

Алгоритмын менежментийн үндсэн асуудал нь эдгээр системүүд юуг амархан хэмжиж чадахгүйд оршино. Хиймэл оюун ухаан нь ажилтны бүтээмжийн бууралтыг бүртгэж болох ч нөхцөл байдлыг ойлгохгүй. Магадгүй тухайн ажилтан шинэ хамт ажиллагсаддаа хурдаа нэмэгдүүлэхэд нь тусалж, онцгой бэрхшээлтэй үйлчлүүлэгчтэй харьцаж байсан эсвэл нарийн төвөгтэй асуудлын бүтээлч шийдлийг гаргаж ирсэн байж магадгүй юм. Эдгээр нь үнэ цэнэтэй багийн гишүүнийг үнэхээр тодорхойлдог биет бус хувь нэмэр юм.

Энэ нь эсрэг тэсрэг хоёр хүчний хооронд гол мөргөлдөөн үүсгэдэг:

• Үр ашгийг дээшлүүлэх бизнесийн хөтлөгч: Хэмжих боломжтой гол гүйцэтгэлийн үзүүлэлтүүд (KPI)-аар удирдуулсан гүйцэтгэлийн бүхий л талыг оновчтой болгохын тулд өгөгдлийг ашиглахыг эрмэлздэг.

• Шударга ёсны хүний ​​хэрэгцээ: Алгоритмууд ихэвчлэн алддаг чанарын ажлын талаарх ойлголт, нөхцөл байдал, бусдын зовлонг ойлгох зэргээр шүүгдэх эрх.

Жинхэнэ асуудал нь алгоритм гүйцэтгэлийг үнэлж чадах эсэхэд биш , харин түүний үнэлгээ нь хүний ​​​​ухаалаг хяналтгүйгээр бүрэн гүйцэд, шударга, хууль ёсны үндэслэлтэй эсэхэд оршино.

Нидерландад үрчлэлтийн өргөн тархсан

Энэ бол холын чиг хандлага биш юм. Нидерландын ажиллах хүч аль хэдийн энэхүү өөрчлөлтийн дунд байна. Судалгаанаас харахад Нидерландын ажилчдын 61% нь ажилдаа хиймэл оюун ухааны нөлөөг мэдэрч байна. Нидерландын байгууллагуудын 95% нь одоо хиймэл оюун ухааны хөтөлбөрүүдийг хэрэгжүүлж байгаа нь Европ дахь хамгийн өндөр үзүүлэлт гэдгийг харгалзан үзвэл энэ нь гайхмаар зүйл биш юм.

Ажилтнуудын үнэлгээнд хиймэл оюун ухааныг ашиглах нь ялангуяа томоохон компаниудад түгээмэл байдаг. Үнэндээ 500 ба түүнээс дээш ажилтантай компаниудын 48% нь гүйцэтгэлийн үнэлгээ гэх мэт функцүүдэд хиймэл оюун ухааны технологийг ашигладаг. Та Нидерландын бизнесүүд Европын автоматжуулалтын хувьсгалыг хэрхэн тэргүүлж байгаа талаар илүү ихийг мэдэж болно.

AI системүүд таны гүйцэтгэлийг хэрхэн үнэлдэг вэ?

Алгоритм таны гүйцэтгэлийг үнэлж байж магадгүй гэдгийг сонсох нь хийсвэр, тэр ч байтугай бага зэрэг бухимдал төрүүлдэг. Тиймээс эдгээр "алгоритм менежерүүд" хэрхэн ажилладаг талаар хөшгийг татъя. Энэ нь нэг нууцлаг шүүлтийн тухай биш, харин мэдээлэл цуглуулах, дүн шинжилгээ хийх тасралтгүй мөчлөг юм.

Үүнийг ойлгохын тулд та эхлээд мөрдөх болон хэмжих гэсэн үндсэн ойлголтуудыг ойлгох хэрэгтэй . Хиймэл оюун ухааны менежер нь хоёуланд нь амжилтанд хүрэх, урьдчилан тодорхойлсон зорилтуудтай харьцуулахын тулд үйл ажиллагааг тасралтгүй хянаж байхаар бүтээгдсэн байдаг.

Хэрэглэгчийн тусламжийн багийг жишээ болгон авч үзье. AI бол холын ажиглагч биш юм; Энэ нь багийн өдөр бүр ашигладаг маш дижитал хэрэгсэлд шингэсэн байдаг. Дарах бүр, дуудлага бүр, илгээсэн имэйл бүр нь системийг тэжээх мэдээллийн цэгийг үүсгэдэг.

Мэдээлэл цуглуулах хөдөлгүүр

Эхний алхам бол зүгээр л олон янзын газраас мэдээлэл цуглуулах явдал юм. Манай хэрэглэгчийн тусламжийн төлөөлөгчийн хувьд систем нь дараах зүйлсийг цуглуулж байж магадгүй:

• Тоон үзүүлэлтүүд: Эдгээр нь хатуу тоонууд юм. Нийт боловсруулсан дуудлагын тоо, дуудлагын дундаж хугацаа, асуудлыг шийдвэрлэхэд хэр хугацаа шаардагдах зэрэг зүйлсийг бодоод үз.

• Чанарын өгөгдөл: Хиймэл оюун ухаан нь мөн харилцан ярианы агуулгыг судалдаг . Байгалийн хэлний боловсруулалт (NLP) ашиглан имэйлийг сканнердаж, тодорхой түлхүүр үг эсвэл хэллэгийг хайж дуудлагын хуулбарыг хийж чаддаг.

• Сэтгэл хөдлөлийн оноо: Үйлчлүүлэгчийн ашигладаг өнгө аяс, хэлийг шинжилснээр систем нь харилцан үйлчлэл бүрт эерэг, төвийг сахисан эсвэл сөрөг оноо өгч чадна.

Энэхүү байнгын өгөгдлийн урсгал нь таны дижитал гүйцэтгэлийн профайлыг бий болгож, таны өдөр тутмын ажлын дүр зургийг ямар ч менежерийн гараар ажиглахаас хамаагүй илүү нарийвчилсан зургийг бий болгодог.

Энгийн дүрмээс эхлээд сургалтын машин хүртэл

Энэ бүх өгөгдлийг цуглуулсны дараа системд үүнийг ойлгох арга хэрэгтэй болно. Бүх AI менежерүүд адилхан бүтээгдсэн байдаггүй; Тэдний үнэлгээний аргууд нь ихэвчлэн хоёр үндсэн бүлэгт хуваагддаг.

1. Дүрэмд суурилсан системүүд
Эдгээр нь алгоритмын менежерүүдийн хамгийн үндсэн хэлбэр юм. Тэд ажил олгогчийн тогтоосон энгийн "хэрэв-энэ-тэгвэл-энэ" логикоор ажилладаг. Жишээлбэл, дүрэмд: "Хэрэв ажилтны дуудлагын дундаж хугацаа таван минутаас илүү байвал гурван долоо хоногт нэг удаа, тэдний гүйцэтгэлийг "сайжруулах шаардлагатай" гэж тэмдэглээрэй." Энэ нь маш энгийн, гэхдээ энэ нь нэлээд хатуу, нарийн мэдрэмжгүй байж болно.

2. Машины сургалтын загварууд
Эндээс л бүх зүйл илүү боловсронгуй болдог. Зөвхөн хатуу дүрмийг дагаж мөрдөхийн оронд машин сургалтын (ML) загварууд байдаг сургагдсан гүйцэтгэлийн түүхэн мэдээллийн асар их багц дээр. Систем нь амжилттай болон амжилтгүй ажилчдын өмнөх жишээнүүдийг судалснаар ямар хэв маяг, зан үйл нь "сайн" ба "муу" үр дүнтэй хамааралтай болохыг олж мэддэг.

Хиймэл оюун ухаан нь шилдэг жүжигчид тодорхой тайвшруулах хэллэгүүдийг байнга ашигладаг эсвэл тодорхой төрлийн асуудлыг илүү хурдан шийддэг болохыг олж мэдэх боломжтой. Дараа нь энэ сурсан хэв маягийг ашиглан одоогийн ажилчдаа оноо авахдаа "Энэ хүний ​​зан байдал бидний хамгийн тохиромжтой ажилтны загварт хэр нийцэж байна вэ?"

Энэ далд хамаарлыг олох чадвар нь маш хүчтэй боловч чухал асуудал гарч ирдэг.

Хар хайрцагны дилемма

Илүү дэвшилтэт машин сургалтын загваруудын тусламжтайгаар хиймэл оюун ухааны шийдвэр гаргах үйл явц үнэхээр төвөгтэй болж чадна. Энэ нь "хар хайрцаг" гэж нэрлэгддэг асуудлыг үүсгэдэг. Алгоритм нь мянга мянган өгөгдлийн цэгүүд болон тэдгээрийн харилцан холболтыг боловсруулдаг бөгөөд үүнийг заримдаа өөрийн хөгжүүлэгчид ч ойлгодоггүй.

Ажилтан гүйцэтгэлийн оноо бага авч болох ч яг тодорхой шалтгааныг нь олох нь бараг боломжгүй байж болно. Системийн логик нь нарийн төвөгтэй мэдрэлийн сүлжээнд гүн нуугдсан байдаг тул шийдвэрийг үр дүнтэйгээр эргэлзээ төрүүлэх эсвэл давж заалдахад маш хэцүү болгодог. Хиймэл оюун ухаан таны менежер бөгөөд таны гүйцэтгэлийг үнэлэх үүрэгтэй үед энэхүү ил тод бус байдал нь гол асуудал юм.

AI менежментийн хууль эрх зүйн болон ёс зүйн эрсдлийг ойлгох

Хиймэл оюун ухаанд суурилсан үр ашигтай байх амлалт нь сэтгэл татам боловч хууль эрх зүйн орчныг ойлгохгүйгээр багаа үнэлэх алгоритмыг ашиглах нь нүдийг нь тагласан уурхайн талбайг жолоодохтой адил юм. Нидерланд болон ЕХ даяар бат бөх зохицуулалтын тогтолцоо нь ажилчдаа муу хэрэгжүүлсэн хиймэл оюун ухааны системийг үүсгэж болох аюулаас хамгаалдаг.

Ажил олгогчдын хувьд бооцоо нь гайхалтай өндөр байдаг. Хамгийн том эрсдэл нь зөвхөн техникийн доголдол биш, харин хууль эрх зүйн үндсэн зөрчлүүд юм. Эдгээр нь асар их хэмжээний торгууль ногдуулах, нэр хүндэд халдах, ажилчдын итгэлийг бүрэн алдахад хүргэдэг. Аюулууд нь хоорондоо холбоотой хэд хэдэн гол хэсэгт хуваагддаг.

Далд хэвийх, ялгаварлан гадуурхах аюул

Алгоритм нь сурсан өгөгдлөөрөө л сайн байдаг. Хэрэв таны ажлын байрны түүхэн мэдээлэл өнгөрсөн нийгмийн хэвшмэл ойлголтыг тусгадаг бол ихэнх нь хиймэл оюун ухаан тодорхой бүлгийг ялгаварлан гадуурхаж сурах болно. Энэ нь шударга бус байдлыг үндсэн логик руугаа оруулж чаддаг.

Олон жилийн гүйцэтгэл, сурталчилгааны өгөгдөл дээр бэлтгэгдсэн хиймэл оюун ухааны системийг төсөөлөөд үз дээ. Түүхийн хувьд эрэгтэй ажилчдыг илүү олон удаа ахиулж байсан бол хиймэл оюун ухаан нь өндөр чадавхитай эрчүүдийн дунд түгээмэл байдаг харилцааны хэв маяг эсвэл ажлын хэв маягийг холбож сурч магадгүй юм. Үр дүн? Энэ нь эмэгтэй ажилчдын бодит гүйцэтгэлтэй адил сайн байсан ч гэсэн тогтмол доогуур оноо авах боломжтой.

Энэ нь зүгээр л ёс зүйгүй зүйл биш; энэ нь Нидерланд болон Европын Холбооны ялгаварлан гадуурхалтын эсрэг хуулийг шууд зөрчиж байна. Алгоритм нь ялгаварлан гадуурхах зорилготой байх шаардлагагүй - хуулийн үүднээс үр дүн нь чухал юм.

• Практик дахь жишээ: AI нь ажилтны бүтээмжийг зургаан сарын хугацаанд бууруулж байгааг тэмдэглэдэг. Энэ хугацаа нь хуулиар хамгаалагдсан хүүхэд асрах чөлөөтэй давхцаж байсныг хүлээн зөвшөөрөхгүй байна. Энэхүү систем нь бага гарцыг муу гүйцэтгэл гэж буруу тайлбарлаж, хууль ёсны эрхээ эдэлсэн ажилтныг шударга бусаар шийтгэдэг.

Ил тод байдлын асуудал ба "хар хайрцаг"

AI-ийн олон дэвшилтэт загварууд нь "хар хайрцаг" хэлбэрээр ажилладаг. Ажилтан нь сөрөг үнэлгээ авч, учир шалтгааныг нь асуухад энэ нь маш том асуудал болдог. Хэрэв таны цорын ганц хариулт бол "алгоритм ингэж хэлсэн тул" та шударга ёс, хууль эрх зүйн ил тод байдлын үндсэн шалгуурыг давж чадахгүй байна.

Энэхүү тодорхой бус байдал нь үл итгэх, арчаагүй байдлын уур амьсгалыг бий болгодог. Хэрэв санал хүсэлт нь үндэслэлгүйгээр зүгээр л оноо байвал ажилтнууд санал хүсэлтээс суралцаж чадахгүй бөгөөд тэд ойлгохгүй байгаа шийдвэрийг эсэргүүцэж чадахгүй нь гарцаагүй.

ЕХ-ны хуулийн дагуу хувь хүмүүс өөрт нь ихээхэн нөлөөлдөг автоматжуулсан шийдвэрийн талаар тодорхой бөгөөд утга учиртай тайлбар авах эрхтэй. Үүнийг хангаж чадахгүй байгаа систем нь хууль эрх зүйн хувьд нийцэхгүй байна.

GDPR болон автоматаар шийдвэр гаргах журмыг зөрчсөн

Ерөнхий Мэдээлэл Хамгаалалтын Журам (GDPR) нь Европын Холбоонд өгөгдөл хамгаалах үндэс суурь бөгөөд автоматжуулсан системд зориулсан маш тодорхой дүрэм журамтай. Хамгийн чухал нь 22-р зүйл бөгөөд хувь хүнд хууль ёсны эсвэл үүнтэй төстэй мэдэгдэхүйц нөлөө үзүүлдэг зөвхөн автоматжуулсан боловсруулалтад суурилсан шийдвэрт хатуу хязгаарлалт тавьдаг .

Энэ нь гүйцэтгэлийн удирдлагын хувьд юу гэсэн үг вэ?

1. Чухал нөлөө: Урамшуулал олгохоос татгалзах, албан тушаал бууруулах, эсвэл ажлаас халах шийдвэр нь "чухал нөлөө" үзүүлсэн гэж тооцогдоно.

2. Зөвхөн автоматжуулсан: Хэрэв хиймэл оюун ухаан гүйцэтгэлийн оноог гаргаж, менежер ямар ч бодит хяналтгүйгээр "батлах" товчийг дарвал (энэ нь "резинэн тамга дарах" гэгддэг) үүнийг зөвхөн автоматжуулсан шийдвэр гэж үзэж болно.

3. Хүний оролцооны эрх: 22-р зүйлд ажилчдад хүний ​​оролцоог шаардах, үзэл бодлоо илэрхийлэх, шийдвэрийг эсэргүүцэх эрх олгосон.

Гүйцэтгэлийн үнэлгээнд хиймэл оюун ухааныг ашигладаг ажил олгогч нь хүний ​​хяналтыг утга учиртай болгох бат бөх үйл явцтай байх ёстой. Менежер нь ажилтны ажлын бүрэн үзэл бодолд үндэслэн хиймэл оюун ухааны зөвлөмжийг хүчингүй болгох эрх мэдэл, туршлага, цаг хугацаа шаарддаг. Үүнийг үл тоомсорлох нь зүгээр л муу туршлага биш; энэ нь танай компанийн дэлхийн жилийн эргэлтийн 4% хүртэлх торгууль ногдуулж болзошгүй GDPR-ийг шууд зөрчсөн явдал юм.

Доорх хүснэгтэд ажил олгогчдод тулгарч буй эдгээр үндсэн хууль эрх зүйн сорилтуудыг задалсан болно.

ЕХ-ны хуулийн дагуу алгоритмын удирдлагын эрх зүйн гол эрсдэлүүд

Эдгээр дүрэм журам хөгжихийн хэрээр мэдээлэлтэй байх нь чухал юм. Эдгээр дүрмүүд хэрхэн илүү тодорхой болохыг ойлгохын тулд та хиймэл оюун ухааны хууль эрх зүйн тал болон удахгүй гарах Европын Холбооны хиймэл оюун ухааны тухай хуулийн талаар илүү ихийг мэдэж болно . Зохицуулагчдын мессеж тодорхой байна: үр ашиг нь хэзээ ч хүний ​​үндсэн эрхийн зардлаар гарахгүй. Хууль эрх зүйн урьдчилан сэргийлэх нь зүгээр нэг хайрцаг тэмдэглэх дасгал биш; энэ бол бизнесийн зайлшгүй шаардлага юм.

Голланд болон ЕХ-ны шүүхийн хэргүүдээс сургамж

Онолын хууль эрх зүйн эрсдэл нь нэг зүйл боловч алгоритм таны гүйцэтгэлийг үнэлэх үед шүүх хэрхэн шийдвэрлэдэг вэ? Одоо бодит ертөнцийн маргаанд хуулийн онолыг туршиж байгаа нь харагдаж байна. Нидерланд болон ЕХ-ны шүүхээс гарч ирсэн шүүхийн жишээ нь тодорхой мессежийг илгээж байна: хүний ​​хяналт, тодорхой тайлбар хийх эрх нь зүгээр нэг сайхан байх ёстой зүйл биш, энэ нь заавал байх ёстой.

Шүүгчид ил тод бус эсвэл шударга бус автоматжуулсан системээс ажилчдын эрхийг хамгаалахад улам бүр бэлэн болж байгааг эдгээр шинэ хэрэг харуулж байна. Ажил олгогчдын хувьд эдгээр шийдвэрүүд нь зөвхөн анхааруулга биш юм; Эдгээр нь яг юу хийх ёсгүйг харуулсан практик замын зураг юм.

Uber-ийн хэрэг: Хүний хяналтыг дэмжих

Хамгийн чухал шийдвэрүүдийн нэг нь шүүхээс гарсан Amsterdam Uber-ийн жолооч нартай холбоотой хэрэгт. Жолооч нар компанийн автоматжуулсан системд асуудал үүсгэсэн бөгөөд энэ нь алгоритмын луйврыг илрүүлэхэд үндэслэн тэдний дансыг идэвхгүй болгож, үр дүнтэй халсан байна.

Шүүх жолооч нарын талд орж, GDPR-ийн 22 дугаар зүйлд заасан эрхийг нь баталгаажуулсан . Ажлаас халахтай адил амьдралыг өөрчлөх шийдвэрийг зөвхөн алгоритмд даатгаж болохгүй гэж шийдвэрлэсэн. Энэхүү чухал хэргийн дүгнэлт маш тодорхой байсан:

• Хүний оролцооны эрх: Жолооч нар тухайн нөхцөл байдлыг зохих ёсоор үнэлж чадах бодит хүнээр идэвхгүй болгох асуудлыг хянуулах хууль ёсны эрхтэй.

• Тайлбар авах эрх: Uber компани автоматжуулсан шийдвэрийнхээ цаад логикийн талаар утга учиртай мэдээлэл өгөхийг тушаасан. "Залилан мэхлэх үйл ажиллагаа" гэсэн бүдэг бадаг дурдах нь хангалтгүй байсан.

Энэ хэрэг хүчирхэг жишиг тогтоосон. Энэ нь хиймэл оюун ухаан таны менежерийн үүрэг гүйцэтгэх үед гаргасан шийдвэрүүд нь ил тод байх ёстой бөгөөд ялангуяа хүний ​​амьжиргаа дэнчин дээр дэнчин тавигдсан үед хүний ​​жинхэнэ хяналтад хамрагдах ёстой гэдгийг баталсан.

"Шүүхийн шийдвэр нь үндсэн зарчмыг онцолж байна: үр ашиг, автоматжуулалт нь хувь хүний ​​зохих журмын дагуу үйл ажиллагаа явуулах эрхийг үгүйсгэж болохгүй. Ажилтан нь тэдний ажилд эрс нөлөөлсөн шийдвэрийг ойлгож, эсэргүүцэх чадвартай байх ёстой."

SyRI-ийн хэрэг: Төрийн тунгалаг алгоритмуудын эсрэг зогсох нь

Шууд ажил эрхлэлтийн тохиолдол биш ч гэсэн Нидерланд дахь Системийн эрсдэлийн заалт (SyRI) алгоритмын эсрэг шийдвэр нь бүх автоматжуулсан шийдвэр гаргахад асар их нөлөө үзүүлсэн. SyRI нь төрийн янз бүрийн агентлагуудын хувийн мэдээллийг холбож, дүн шинжилгээ хийх замаар халамжийн луйврыг илрүүлэхэд ашигладаг засгийн газрын систем байв.

Нидерландын шүүх Сири улсыг хууль бус гэж зарласан нь зөвхөн нууцлалын асуудал биш, харин үйл ажиллагаа нь үндсэндээ тунгалаг байсан тул. Энэхүү "хар хайрцаг"-ын алгоритм нь хувь хүмүүсийг хэрхэн өндөр эрсдэлтэй гэж тодорхойлсон болохыг хэн ч тайлбарлаж чадаагүй. Энэхүү ил тод бус байдал нь Европын хүний ​​эрхийн конвенцийг зөрчиж байгаа нь тогтоогдсон, учир нь иргэд системийн дүгнэлтээс өөрийгөө хамгаалах боломжгүй болсон.

Энэхүү шийдвэр нь шийдвэр гаргах үйл явц нь нууцлаг байдаг системүүдэд шүүхийн зүгээс үл тэвчих хандлага нэмэгдэж байгааг илтгэж байна. Зарчмууд нь ажлын байранд шууд хамаарна. Хэрэв ажил олгогч нь гүйцэтгэлийн алгоритм нь ажилтанд яагаад бага оноо өгснийг тайлбарлаж чадахгүй бол тэд маш тогтворгүй хууль эрх зүйн үндэслэл дээр зогсож байна. Эдгээр асуудлууд нь нарийн төвөгтэй бөгөөд машины шийдвэр хор хөнөөл учруулах үед хэн хариуцлага хүлээх вэ гэсэн асуултууд зэрэг олон чиглэлээр хамааралтай. Та эдгээр асуултуудыг хиймэл оюун ухаан болон эрүүгийн эрх зүйн талаархи манай гарын авлагыг уншиж илүү гүнзгий судлах боломжтой.

Шүүхийн захиас тууштай байна: шүүх хувь хүмүүсийг алгоритмын хяналтгүй хүчнээс хамгаалах болно. Тоглолтын ажилтныг идэвхгүй болгосон ч бай, иргэнийг луйврын хэрэгт буруутгаж байна уу, ил тод байдал, шударга байдал, утга учиртай хүний ​​хяналтыг шаардах нь ажил олгогчдын үл тоомсорлож болохгүй хууль ёсны шаардлага юм.

Хариуцлагатай хиймэл оюун ухааныг хэрэгжүүлэх практик гарын авлага

Хуулийн онолыг мэдэх нь нэг хэрэг, гэхдээ үүнийг практикт хэрэгжүүлэх нь алгоритм нь танай багийг үнэлэхэд хамгийн чухал зүйл юм. Ажил олгогчдын хувьд энэ нь хийсвэр эрсдэлээс бодит үйлдэл рүү шилжиж, технологийн амбиц, хууль ёсны үүрэг хариуцлага, ажилчдын итгэлийг тэнцвэржүүлсэн тодорхой тогтолцоог бий болгоно гэсэн үг юм.

Энэ нь инновацийн тормозыг шахах тухай биш юм; хариуцлагатай удирдах тухай юм. Бодлоготой хэрэгжүүлэх төлөвлөгөө нь хууль эрх зүйн асуудлаас ангижрахаас илүү зүйлийг хийдэг. Энэ нь ажилчид хиймэл оюун ухааныг шинэ төрлийн дижитал үүрэг гүйцэтгэгч биш харин туслах хэрэгсэл гэж үздэг соёлыг төлөвшүүлэхэд тусалдаг. Эцсийн зорилго бол ил тод, хариуцлагатай, хамгийн гол нь шударга тогтолцоо юм.

Сайн тал нь гэвэл олон нийтийн эдгээр технологид хандах хандлага нэмэгдэж байна. Нидерландын иргэдийн дунд хиймэл оюун ухааны системд итгэх итгэл нэмэгдэж байгаа бөгөөд одоо 90% нь хиймэл оюун ухааныг мэддэг болсон бол 50 орчим хувь нь үүнийг идэвхтэй ашиглаж байна. Энэ ойлголт ч бас өөрчлөгдсөн: Нидерландын иргэдийн 43% нь хиймэл оюун ухааныг зөвхөн боломж гэж үздэг болсон нь өмнөх оны 36% -иас мэдэгдэхүйц өсөлт юм . Та энэ чиг хандлагыг Нидерландын хиймэл оюун ухааныг хүлээн авч буй тайлангаас илүү дэлгэрэнгүй судлах боломжтой . Энэхүү өсөн нэмэгдэж буй хүлээн зөвшөөрөлт нь шударга, нээлттэй нэвтрүүлэлтийг урьд өмнөхөөсөө илүү чухал болгож байна.

Мэдээлэл хамгаалах нөлөөллийн үнэлгээгээр эхэл

Та шинэ хиймэл оюун ухааны системийг ашиглах талаар бодохоос өмнө хамгийн эхний алхам бол Мэдээлэл Хамгаалалтын Нөлөөллийн Үнэлгээ (DPIA) байх ёстой. Энэ нь зүгээр нэг найрсаг санал биш бөгөөд GDPR-ийн дагуу хүмүүсийн эрх, эрх чөлөөнд өндөр эрсдэл учруулж болзошгүй аливаа мэдээлэл боловсруулахад тавигдах хууль ёсны шаардлага юм. AI-д суурилсан гүйцэтгэлийн менежмент нь энэ ангилалд багтах нь гарцаагүй.

DPIA-г хувийн мэдээллийн албан ёсны эрсдлийн үнэлгээ гэж бодоорой. Энэ нь таныг AI систем хэрхэн ажиллах, юу нь буруу болж болохыг системтэйгээр төлөвлөхөд хүргэдэг.

Уг процесс нь хэд хэдэн үндсэн үе шатыг агуулдаг:

• Боловсруулалтыг тайлбарлах: Та хиймэл оюун ухаан ямар өгөгдөл цуглуулах, хаанаас ирж байгаа, мөн түүгээр юу хийхээр төлөвлөж байгаагаа тодорхой тодорхойлох хэрэгтэй.

• Шаардлагатай байдал ба пропорциональ байдлыг үнэлэх: Та өгөгдөл бүр яагаад хэрэгтэй байгааг зөвтгөж, хяналтын түвшин таны тавьсан зорилгод хэтрүүлэггүй гэдгийг нотлох ёстой.

• Эрсдэлийг тодорхойлж, үнэлэх: Ажилчдадаа тулгарч болзошгүй бүх аюулыг, ялгаварлан гадуурхалт, нэг талыг баримтлахаас эхлээд ил тод бус байдал эсвэл шударга бус үр дагаварт хүргэж болзошгүй алдаануудыг тодорхойл.

• Бууруулах арга хэмжээг төлөвлөх: Тодорхойлсон эрсдэл бүрийн хувьд хүний ​​хяналтыг нэмэгдүүлэх эсвэл боломжтой бол өгөгдлийг нууцлах аргыг ашиглах гэх мэт тодорхой алхмуудыг тоймлох хэрэгтэй.

Радикал ил тод байдлыг багийнхаа хамтаар ав

Тунгалаг байдлаас илүү итгэлийг юу ч устгадаггүй, ялангуяа хиймэл оюун ухаантай холбоотой. Таны ажилчид хэрхэн үнэлэгдэж байгааг мэдэх эрхтэй бөгөөд тодорхой хариулт өгөх нь таны хууль ёсны болон ёс зүйн үүрэг юм. "Өгөгдөлд тулгуурласан ойлголт"-ын талаар тодорхойгүй корпорацийн ярьдаг.

Таны ил тод байдлын бодлого тодорхой, нарийн, хүн бүр олоход хялбар байх ёстой. Энэ нь дараахь зүйлийг тодорхой тусгах ёстой.

• Ямар өгөгдөл цуглуулдаг вэ: Системийн хянаж буй өгөгдлийн цэг бүрийг ил тод байлга, үүнд имэйлд хариу өгөх хугацаа, бичсэн кодын мөрүүд эсвэл хэрэглэгчийн дуудлагын сэтгэл хөдлөлийн шинжилгээ орно.

• Алгоритм хэрхэн ажилладаг вэ: Та системийн логикийн талаар утга учиртай тайлбар өгөх ёстой. Гүйцэтгэлийг үнэлэхэд ашигладаг гол шалгуур болон эдгээр хүчин зүйлсийг хэрхэн жигнэдэг болохыг тайлбарлана уу.

• Хүний хяналтын үүрэг: Хиймэл оюун ухааны гаралтыг хянаж, хүчингүй болгох эрх мэдэл хэнд байгааг, мөн ямар тодорхой нөхцөлд тэд оролцож болохыг тодорхой болго.

Ил тод үйл явц нь системийг ямар ч маргаангүй "хар хайрцаг" мэт мэдрэхээс сэргийлдэг. Энэ нь ажилтнуудад мөрдөж буй стандартыг ойлгоход шаардлагатай мэдээллийг өгдөг бөгөөд энэ нь шударга байдал, хяналтын мэдрэмжийн үндэс юм.

Хүний хяналтын найдвартай үйл явцыг бий болгох

GDPR-ийн нэг чухал дүрэм бол хууль эрх зүйн болон хувийн үр дагавартай шийдвэрийг зөвхөн автоматжуулсан боловсруулалтад үндэслэн гаргаж болохгүй гэсэн зарчим юм. Энэ нь "утга учиртай хүний ​​оролцоо"-г хэлэлцээр хийх боломжгүй хууль эрх зүйн шаардлага болгодог. Тодруулбал, менежер хиймэл оюун ухааны зөвлөмжийг "зөвшөөрөх" дээр дарахад л тооцогдохгүй.

Жинхэнэ найдвартай хяналтын үйл явц нь хэд хэдэн үндсэн бүрэлдэхүүн хэсгүүдийг шаарддаг:

1. Эрх мэдэл: Хиймэл оюун ухааны гаралтыг хянаж буй хүн түүний дүгнэлттэй санал нийлэхгүй байх, түүнийг хүчингүй болгох жинхэнэ эрх мэдэл, бие даасан байдалтай байх ёстой.

2. Чадамж: Тэд компанийн зорилго болон ажилтан бүрийн өвөрмөц нөхцөл байдлыг, түүний дотор алгоритмын анзаараагүй байж болох хүчин зүйлсийг ойлгохын тулд зохих сургалт, бизнесийн орчин хэрэгтэй.

3. Цаг: Шалгалт нь яаруу сандруу, тодорхой зүйл хийх дасгал байж болохгүй. Шалгагч эцсийн, бие даасан дүгнэлт гаргахаасаа өмнө бүх нотлох баримтыг зохих ёсоор авч үзэх хангалттай цаг хугацаатай байх ёстой.

Энэхүү давталт дахь хүний ​​систем нь алгоритмын алдаа, далд хэвийхээс хамгаалах хамгийн чухал хамгаалалт юм. Энэ нь хиймэл оюун ухаанд байдаггүй контекст, нарийн мэдрэмж, өрөвдөх сэтгэл нь хүмүүсээ хэрхэн удирдах гол цөм хэвээр байдгийг баталгаажуулдаг.

Эдгээр бүх алхмуудыг нэгтгэхийн тулд ажил олгогчид хэрэгжүүлэх үйл явцыг удирдан чиглүүлэх практик хяналтын хуудсыг энд оруулав.

AI гүйцэтгэлийн системд зориулсан ажил олгогчийн дагаж мөрдөх хяналтын хуудас

Энэхүү хяналтын хуудас нь ажил олгогчдод хиймэл оюун ухааны үнэлгээний хэрэгслээ Голланд болон ЕХ-ны хууль эрх зүйн үндсэн шаардлага, тэр дундаа GDPR, шударга, ил тод байдлын зарчмуудад нийцүүлэн хэрэгжүүлэхэд чиглэсэн бүтэцтэй арга барилыг өгдөг.

Энэхүү шалгах хуудсыг дагаж мөрдсөнөөр та хиймэл оюун ухааны хүчийг ашиглан гүйцэтгэлийг зөвхөн үр дүнтэй төдийгүй ёс зүй, хууль эрх зүйн хувьд үнэлж, багийнхаа өмнө хүлээх үүргээ бэхжүүлж чадна.

Алгоритм таны менежер байх үед таны эрх

Алгоритм нь таны гүйцэтгэлийг үнэлэхэд оролцдог гэдгийг олж мэдэх нь үнэхээр хүчгүйдэж магадгүй юм. Гэхдээ Голланд болон ЕХ-ны хуулийн дагуу та арчаагүй хүн биш гэдгийг ойлгох нь маш чухал юм. Та автоматжуулсан шийдвэр гаргалтаас таныг хамгаалах зорилготой тодорхой, хэрэгжүүлэх эрхтэй.

Энэ нөхцөлд таны хамгийн хүчирхэг хамгаалалт бол Ерөнхий Мэдээлэл Хамгаалалтын Журам (GDPR) юм. Энэ нь танд хиймэл оюун ухаан таны менежер байх үед онцгой хамааралтай болох хэд хэдэн үндсэн эрхийг олгодог . Эдгээр нь зүгээр нэг удирдамж биш; эдгээр нь таны ажил олгогчийн биелүүлэх ёстой хууль ёсны үүрэг юм.

GDPR-ийн дагуу таны үндсэн эрх

Таны хамгаалалтын гол цөм нь автоматжуулсан системийг хүчтэй шалгах гурван үндсэн эрх юм. Хэрэв та шийдвэрээ шударга бус гэж үзэж байгаа эсвэл зохих тайлбаргүй бол тэдгээрийг мэдэх нь таныг үйлдэл хийх боломжийг олгоно.

• Таны мэдээлэлд хандах эрх: Та ажил олгогчийн тань хадгалж буй бүх хувийн мэдээллийн хуулбарыг албан ёсоор хүсэх боломжтой. Үүнд гүйцэтгэлийн үнэлгээний алгоритмд оруулсан яг тодорхой өгөгдлүүд багтаж, таны ажлыг үнэлэхэд ямар мэдээлэл ашиглагдаж байгааг харах боломжтой.

• Тайлбар авах эрх: Та аливаа автомат шийдвэрт "холбогдох логикийн талаар утга учиртай мэдээлэл" авах эрхтэй. Таны ажил олгогч зүгээр л "компьютер шийдсэн" гэж хэлж болохгүй. Тэд систем ямар шалгуурыг ашиглаж байгаа болон таны талаар яагаад тодорхой дүгнэлтэд хүрснээ тайлбарлах ёстой.

• Эсэргүүцэх болон хүний ​​хяналт шалгалт хийх эрх: Энэ бол таны хамгийн чухал эрх байж магадгүй юм. GDPR-ийн 22 дугаар зүйлийн дагуу та зөвхөн алгоритмаар гаргасан шийдвэрийг эсэргүүцэж, хүнээс хянаж үзэхийг шаардах эрхтэй. Энэ хүн нотлох баримтыг зохих ёсоор дахин шалгаж, шинэ, бие даасан дүгнэлт гаргах эрхтэй байх ёстой.

Хууль нь тодорхой: таны урамшуулал, албан тушаал ахих, ажил эрхлэлтийн байдалд нөлөөлөх гэх мэт чухал шийдвэрийг зөвхөн алгоритмд үлдээж болохгүй. Та хэн нэгнийг хөндлөнгөөс оролцуулах бүрэн эрхтэй.

Хиймэл оюун ухаанаар бий болсон үнэлгээг хэрхэн сорих вэ?

Хэрэв та гүйцэтгэлийн үнэлгээг шударга бус эсвэл бүрэн алдсан гэж хүлээн авбал та арга хэмжээ авах боломжтой бөгөөд хийх ёстой. Нөхцөл байдалд системтэйгээр хандах нь таны хэргийг амжилтанд хүргэх хамгийн сайн боломжийг олгоно.

1. Мэдээлэл цуглуулах: Хэн нэгэнтэй ярихаасаа өмнө бүх зүйлийг баримтжуул. Гүйцэтгэлийн үнэлгээний хуулбарыг хадгалж, үл тоомсорлогдсон гэж үзсэн тодорхой ажлын жишээнүүдийг тэмдэглэж, алгоритмын анзаараагүй байж болох нөхцөл байдлын хүчин зүйлсийг жагсаан бич (жишээлбэл, хамт ажиллагсдад туслах эсвэл хүнд хэцүү төслийг удирдах).

2. Албан ёсны хүсэлт илгээх: Хүний нөөцийн хэлтэст албан ёсны хүсэлт бичнэ үү. GDPR-ийн дагуу эрхээ эдэлж байгаагаа тодорхой хэлнэ үү. Үнэлгээнд ашигласан хувийн мэдээллийн хуулбар болон алгоритмын логикийн дэлгэрэнгүй тайлбарыг хүснэ үү.

3. Хүнээр хянуулах хүсэлт гаргах: Та автоматжуулсан шийдвэрийг эсэргүүцэж байгаагаа болон үүнийг хүчингүй болгох эрх бүхий менежерээр хянуулах хүсэлт гаргаж байгаагаа тодорхой мэдэгдэх.

Эдгээр дүрэм журмыг дагаж мөрдөх нь ялангуяа технологи хөгжиж байгаа тул төвөгтэй байж болно. GDPR-ийн дагуу хиймэл оюун ухаан болон Big Data-тай хамт өгөгдлийн нууцлал хэрхэн хөгжиж байгааг судалснаар та илүү гүнзгий ойлголттой болох боломжтой.

Голландын ажлын зөвлөлийн үүрэг

Нидерландад хамгаалалтын өөр нэг хүчирхэг давхарга байдаг: Ажлын Зөвлөл ( Ondernemingsraad буюу OR). 50 ба түүнээс дээш ажилтантай аливаа компанийн хувьд Ажлын Зөвлөл нь ажилтны гүйцэтгэлийг хянах зорилгоор ашигладаг аливаа системийг нэвтрүүлэх эсвэл томоохон өөрчлөлт оруулахтай холбоотой хууль ёсны зөвшөөрөл авах эрхтэй.

Энэ нь танай ажил олгогч ажилчдын төлөөлөгчдөөсөө зөвшөөрөл авалгүйгээр хиймэл оюун ухааны менежер суулгаж чадахгүй гэсэн үг юм. Үйлдвэрлэлийн хэлтсийн ажил бол аливаа шинэ систем хэрэгжиж эхлэхээс өмнө шударга, ил тод, ажилчдын хувийн нууцыг хүндэтгэдэг эсэхийг баталгаажуулах явдал юм . Хэрэв танд санаа зовоосон асуудал байвал танай Ажлын зөвлөл бол чухал холбоотон юм.

AI гүйцэтгэлийн тоймтой холбоотой нийтлэг асуултууд

Алгоритм таны гүйцэтгэлийн үнэлгээнд үг хэлэх үед ажилчид болон ажил олгогчдын аль алинд нь маш олон практик асуултууд гарч ирдэг. Гол асуудлын талаар тодорхой ойлголттой байх нь чухал юм. Хамгийн нийтлэг санаа зовоосон асуултуудын тодорхой хариултуудыг энд оруулав.

Зөвхөн хиймэл оюун ухааны шийдвэрийн дагуу намайг халж болох уу?

Товчхондоо, үгүй. GDPR-ийн 22 дугаар зүйлийн дагуу ажлаас халах гэх мэт хууль эрх зүйн ноцтой үр дагавартай шийдвэрийг зөвхөн автоматжуулсан боловсруулалтад үндэслэн гаргаж болохгүй. Хууль нь хүний ​​оролцоог шаарддаг.

Бодит байдлыг бодитой, хараат бусаар хянуулалгүйгээр зөвхөн хиймэл оюун ухааны үр дүнд тулгуурлан таныг ажлаас халсан ажил олгогч нь GDPR болон Голландын хөдөлмөрийн хуулийн дагуу таны эрхийг зөрчих нь гарцаагүй.

Би хиймэл оюун ухааны системийн талаар юу мэдэх эрхтэй вэ?

Та ил тод байх үндсэн эрхтэй. Хэрэв танай компани хиймэл оюун ухааныг менежерээр ашиглаж байгаа бол тэд танд энэ талаар мэдэгдэж, түүний логикийн талаар утга учиртай мэдээлэл өгөх үүрэгтэй.

Энэ нь тэд дараахь зүйлийг тодруулах шаардлагатай гэсэн үг юм.

• Алгоритм боловсруулдаг өгөгдлийн тодорхой төрлүүд.

• Үнэлгээнд ашигладаг гол шалгуурууд.

• Системийн гаралтын болзошгүй үр дагавар.

Та мөн систем таны тухай цуглуулсан бүх хувийн мэдээлэлд хандах хүсэлт гаргах эрхтэй.

Менежерээс энгийн "резин тамга" нь хууль эрх зүйн хувьд хангалттай биш юм. Европын мэдээлэл хамгаалах эрх бүхий байгууллагууд "хүний ​​утга учиртай хяналт" шаарддаг бөгөөд хянагч нь нотлох баримтад дүн шинжилгээ хийх, бие даасан дүгнэлт гаргах бодит эрх мэдэл, туршлага, цаг хугацаатай байдаг.

Менежер зүгээр л хиймэл оюун ухааны шийдвэрийг батлахад хангалттай юу?

Үгүй ээ. Энэ төрлийн үйл ажиллагаа нь хуулийн стандартад нийцэхгүй байна. Бодит, бодитой хяналтгүйгээр хурдан гарын үсэг зурах нь хүний ​​​​хяналтад тооцогдохгүй.

Хянагч нь нөхцөл байдалд дүн шинжилгээ хийх, хиймэл оюун ухаан орхигдуулж болзошгүй хүчин зүйлсийг (багаар ажиллах, урьдчилан таамаглаагүй саад бэрхшээл эсвэл бусад нөхцөл байдал гэх мэт) авч үзэх, бие даасан шийдвэр гаргах бодит эрх мэдэлтэй байх ёстой. Алгоритмын дүгнэлтийг зүгээр л батлах нь компанийг хууль эрх зүйн томоохон сорилтод хүргэдэг эрсдэлтэй алхам юм.