• Valdemārs,
  • Valdis,
  • Voldemārs
Meklēšana MeklēšanaRSSFacebookZiņu lente


Laika ziņas
Facebook
Видео Video


Tiesībsargs: mākslīgais intelekts var diskriminēt cilvēkus

Teksta izmērs Aa Aa
Interesanti fakti
LETA 15:14, 07.11.2024


Kā informē Tiesībsarga birojs, pētījumā "Mākslīgā intelekta sistēmas un diskriminācijas aspekti" analizēts, kā pašlaik mākslīgā intelekta sistēmas ir pārkāpušas cilvēka pamattiesības tādās jomās kā nodarbinātība, izglītība, biometriskā identifikācija un pamatpakalpojumu pieejamība.



Šīs ir četras no astoņām augsta riska jomām, ko definējusi Eiropas Savienības Mākslīgā intelekta regula, atzīmē birojā.

Birojā norāda, ka arī starptautiskā prakse rāda, ka mākslīgais intelekts var diskriminēt cilvēkus. Piemēram, Nīderlandē sistēmiskā riska identificēšanas krāpšanas apkarošanas sistēma nepamatoti apsūdzēja aptuveni 26 000 vecākus par krāpnieciskiem bērna kopšanas pabalstu pieprasījumiem. Daļai vecāku apturēja pabalstu izmaksu, bet vēl daļai lūdza tos atmaksāt. Daudzos gadījumos summa sasniedza vairākus desmitus tūkstošu eiro, radot ģimenēm ievērojamas finansiālas grūtības. Šajā gadījumā mākslīgā intelekta sistēma pieļāva kļūdas, vērtējot dubultpilsonības aspektu. Tiesa atzina pārkāpumu, un 2021.gadā šis skandāls labklājības jomā piespieda Nīderlandes valdību atkāpties.

Savukārt ASV interneta tirdzniecības uzņēmuma "Amazon" darbā pieņemšanas algoritms par labākiem kandidātiem uzskatīja vīriešus, attiecīgi noraidot CV, kuros bija iekļauts vārds "sieviete". Rezultātā "Amazon" atteicās no mākslīgā intelekta personāla atlases rīka.

Līdztekus Stenfordas Universitātes pētījums pērn atklāja, ka mākslīgā intelekta rīka "Chat GPT" detektori klasificē tekstu, ko rakstījuši cilvēki, kuriem angļu valoda nav dzimtā, kā mākslīgā intelekta radītu. Patiesībā tā nebija - šiem iedzīvotājiem objektīvu iemeslu dēļ ir ierobežots vārdu krājums un gramatikas lietojums. Mākslīgā intelekta kļūdas dēļ viņi var saskarties ar nepamatotām apsūdzībām par krāpšanu vai plaģiātismu akadēmiskā un profesionālā vidē, skaidro birojā.

Tiesībsargs norāda - lai mākslīgais intelekts nebūtu drauds, pirmkārt, jāvērš uzmanība datu kvalitātei un pārvaldībai. Ja mākslīgā intelekta sistēma nav "apmācīta" ar augstas kvalitātes datiem, nav precīza un pārbaudīta pirms "palaišanas tirgū" - ar lielu ticamību tā būs cilvēkus diskriminējoša.

Otrkārt, tiesībsargs norāda, ka mākslīgā intelekta sistēmas jāveido tā, lai cilvēkiem būtu pilnīgi skaidrs, ka viņi sazinās ar mākslīgā intelekta sistēmu, nevis, piemēram, ar iestādes darbinieku. Iedzīvotājus jāinformē arī par viņu tiesībām.

Treškārt, šīm sistēmām jāspēj darboties tādā veidā, ko cilvēki var atbilstoši kontrolēt un virsvadīt - iejaukties, kad vien tas nepieciešams, un arī apturēt sistēmu, ja tā nedarbojas, kā paredzēts, uzsver birojā.

Ceturtkārt, kā secināts pētījumā, svarīga ir arī atbildība un uzraudzība. Tas nozīmē, ka augsta riska mākslīgā intelekta sistēmām jābūt rūpīgi izstrādātām novērtēšanas procedūrām attiecībā uz datu kvalitāti, dokumentāciju, cilvēka veiktu pārraudzību, precizitāti, kiberdrošību un citiem aspektiem. Piemēram, biometrijas jomā šo pārbaudi jāveic trešajai personai, atzīmē birojā.

Tiesībsarga biroja Diskriminācijas novēršanas nodaļas vadītāja Anete Ilves norāda, ka nav šaubu, ka mākslīgā intelekta sistēmas var būt draugs un palīgs, tomēr pētījums parādot, kādas sekas var būt tad, ja sistēma ir nepareiza. "Ja cilvēka pieļauta kļūda rada kaitējumu citam konkrētam cilvēkam, tad mākslīgā intelekta sistēmas radīta kļūda automātiski tiek attiecināta uz to sabiedrības grupu, kura atbilst mākslīgā intelekta sistēmas noteiktiem kritērijiem. Tādējādi, ietekme ir daudz plašāka. Es ceru, ka politiķu aicinājums par Latvijas spēju radīt pasaules līmeņa mākslīgā intelekta sistēmas īstenosies arī tādā ziņā, ka pamattiesību ievērošana tajās būs prioritāte," uzsver Ilves.

Eiropas Savienībā šovasar stājās spēkā Eiropas Parlamenta un Padomes regula, kas nosaka jaunas normas mākslīgā intelekta jomā. Tā kļūs tieši piemērojama visās ES dalībvalstīs, tai skaitā Latvijā, pēc diviem gadiem - no 2026.gada 2.augusta.

Pētījumu tiesībsarga uzdevumā izstrādāja Latvijas Universitātes pētniece Irēna Barkāne.


Esiet atbildīgi par komentāriem! Jūsu izteikumi nedrīkst būt pretrunā ar LR likumdošanu.
Portāls VS.LV nenes atbildību par komentāru saturu.
Lasīt visus komentārus

Atbilēt

Anonīmi komentāri

Pievienot

Rekomendējam



ARĪ KATEGORIJĀ

Interesanti fakti Eiropas Kinoakadēmijas balvu saņem Zilbaloža «Straume»

Sestdien Lucernā, Šveicē, Eiropas Kinoakadēmijas balvu pasniegšanas ceremonijā labākās animācijas pilnmetrāžas filmas godalgu saņēma latviešu režisora Ginta Zilbaloža animācijas filma "Straume".

Interesanti fakti Kā saklāt skaistu svētku galdu, pārlieku daudz netērējoties (+VIDEO)

Maksimālam efektam mēs iesakām izrotāt svētkiem visu mājokli.

Interesanti fakti Latvijas pilsonībā plāno uzņemt arī ķīnieti, afgāni un nepālieti

Valdība drīzumā lems par 57 cilvēku, tostarp, ķīnieša, afgāņa un nepālieša uzņemšanu Latvijas pilsonībā.

Interesanti fakti Rīgā sāks uzstādīt jaunas sabiedriskā transporta pieturvietu nojumes (FOTO)

Decembrī aptuveni 60 sabiedriskā transporta pieturvietās Rīgā sāks uzstādīt jaunas, vienotā dizaina pieturvietu nojumes.

Lasiet arī

Veselība Abu Meri un Jansons vienojas stiprināt pacientu tiesību aizsardzību

Veselības ministrs Hosams Abu Meri (JV) un tiesībsargs Juris Jansons šodien vienojās par pacientu tiesību aizsardzības stiprināšanu, informēja Veselības ministrijā (VM).

Pasaule Okupanti un mēslojums: tiesībsargs Juris Jansons skaidro, kas ir naida runa

Atbildīgās institūcijas ir skaidrojušas konkrēto mākslas darbu mērķi, tādējādi novēršot bažas par iespējamu vēršanos pret cilvēkiem to etniskās izcelsmes dēļ.

Sabiedrība Tiesībsargs saņem arvien jaunus signālus. Skolas atgriežas pie vecās prakses

Tiesībsargs saņem arvien jaunus signālus, ka Latvijas izglītības iestādes - skolas un bērnudārzi - sāk atgriezties pie vecās prakses un atkal vecākiem izsniedz sarakstus ar lietām, kas ir jāpērk bērna mācību vajadzībām, aģentūru LETA informēja Tiesībsarga birojā.

Sabiedrība Tiesībsargs: Ja ievērotu noteikto, Jēkabpils traģēdija nebūtu notikusi

Pašlaik normatīvais regulējums ir pietiekams, lai tādi traģiski gadījumi kā, piemēram, Jēkabpilī nenotiktu, intervijā LTV raidījumā "Rīta panorāma" teica tiesībsargs Juris Jansons.