Uvod:
Umjetna inteligencija (AI) postaje dio svakodnevnog donošenja odluka u malim i srednjim poduzećima (MSP) — od korisničke službe i marketinga do ljudskih resursa i operacija. S tim dolaze nove odgovornosti u vezi s pravednošću, transparentnošću, zaštitom podataka i odgovornošću. Ovaj modul pruža praktični uvod u etičku AI, pomažući MSP-ovima da razumiju stvarne rizike, prepoznaju uobičajene znakove upozorenja i primijene jednostavne, odgovorne prakse pri korištenju AI alata. Fokus je na realnim akcijama koje tvrtke mogu poduzeti kako bi osigurale da njihova upotreba AI alata ostane sigurna, pravedna i pouzdana.
Ishodi učenja
Završetkom Modula 5: Etika umjetne inteligencije za poslovanje, polaznici će moći:
- Razumjeti ključne etičke probleme povezane s korištenjem AI u malim i srednjim poduzećima, uključujući pristranost, transparentnost, privatnost i odgovornost.
- Prepoznazi uobičajene etičke rizike u svakodnevnim AI alatima kao što su chatbotovi, generatori sadržaja, filteri za zapošljavanje i analitičke nadzorne ploče uključuju.
- Primijeniti praktične strategije za smanjenje etičkih, reputacijskih i pravnih rizika u vlastitom MSP-u.
- Promicati odgovorne, uključive i transparentne primjene umjetne inteligencije u poslovnim procesima.
Jedinice u ovom modulu
Jedinica 1: Razumijevanje etičke umjetne inteligencije — Od principa do prakse
Jedinica 2: Etika umjetne inteligencije – Izazovi pred malim i srednjim poduzećima
Jedinica 3: Etično upravljanje umjetnom inteligencijom u vašem poslovanju
Jedinica 4: Dodatni resursi i procjena
Jedinica 1 – Razumijevanje etičke umjetne inteligencije: Od načela do prakse
Uvod
Etika umjetne inteligencije nije apstraktni pojam. Ona je temelj za osiguravanje pouzdanosti, sigurnosti i korisnosti umjetne inteligencije u stvarnim poslovnim kontekstima. Mala i srednja poduzeća (MSP) često promatraju umjetnu inteligenciju kao tehnički alat, ali svaka poslovna odluka koja uključuje umjetnu inteligenciju ima etičke posljedice, bilo u interakciji s kupcima, odnosima sa zaposlenicima ili upravljanju podacima. Ova jedinica istražuje značenje etike umjetne inteligencije, kako je definiraju međunarodne smjernice (UNESCO, EU), i zašto bi ona trebala biti sastavni dio svakodnevnog odlučivanja MSP-a.
Što znači “etnička umjetna inteligencija”?
Etnička AI odnosi se na dizajn i upotrebu AI sustava koji poštuju vrijednosti kao što su:
- pravednost – izbjegavanje pristranosti i diskriminacije;
- transparentnost – donošenje odluka razumljivim;
- odgovornost – pojašnjavanje tko je odgovoran;
- privatnost – zaštita prava na podatke;
- održivost – smanjenje utjecaja na okoliš.
Primjere: alat umjetne inteligencije koji preporučuje kandidate za posao ne bi trebao nepravedno isključivati žene ili manjinske skupine. marketinški chatbot trebao bi jasno otkriti kada korisnici komuniciraju s umjetnom inteligencijom i kako će se njihovi podaci koristiti.
Međunarodni okviri koji oblikuju etičku AI
- UNESCO (2021). Prvi globalni sporazum o etici umjetne inteligencije, usvojen od strane 193 države članice, naglašava pravednost, transparentnost, odgovornost, privatnost, održivost i zabranu štetnih praksi poput bodovanja društvenog kredita i masovnog nadzora.
- EU Bijela knjiga o AI (2020) . Uvedena je dvostruka ideja ekosustava izvrsnosti (inovacije) i ekosustava povjerenja (sigurnost, etika, usklađenost sa zakonom).
- Novi Zakon EU o umjetnoj inteligenciji. Uvest će se obvezujuća pravila za “sustave umjetne inteligencije visokog rizika” i smjernice za mala i srednja poduzeća.
Što etička AI znači za mala i srednja poduzeća
✔ Izgrađuje povjerenje kupaca
Ljudi vjeruju tvrtkama koje su transparentne o tome kako se AI koristi.
✔ Smanjuje pritužbe i pravni rizik
Loše AI odluke mogu prekršiti GDPR ili nadolazeća EU AI pravila.
Poboljšava pravednost pri zapošljavanju, marketingu i komunikaciji
Loše dizajnirana umjetna inteligencija može isključiti kupce ili kandidate.
✔ Jača ugled robne marke
Etičko ponašanje stvara konkurentsku prednost.
Svakodnevna etička AI u malim i srednjim poduzećima
Etička AI nije apstraktna – utječe na jednostavne, svakodnevne operacije.
Primjer A: Chatbotovi
- Moraju otkriti da su AI
- Trebalo bi ponuditi opciju ljudskog preuzimanja
- Trebate poštovati pristanak korisnika prije prikupljanja podataka
Primjer B: Marketing AI
- Mora se izbjegavati jačanje stereotipa
- Treba provjeriti formulaciju na pristranost
- Podaci se moraju koristiti uz dopuštenje
Primjer C: Alati za zapošljavanje
- AI može pomoći u sužavanju izbora, ali ljudi moraju pregledati
- Kriteriji bi trebali biti vezani za posao, a ne demografski
- AI prijedlozi trebaju biti objašnjivi
Primjer D: Nadzorne ploče uvida u kupce
- Podaci moraju biti anonimni
- Predviđanja moraju biti provjerena
- Zaposlenici bi trebali razumjeti što nadzorna ploča govori — a što ne govori.
Provjera etičke svjesnosti
Osvrnite se na vlastiti MSP i označite sve što se odnosi:
Otkrivamo kada korisnici komuniciraju s chatbotom | |
Sadržaj generiran umjetnom inteligencijom uvijek pregledava čovjek. | |
Izbjegavamo učitavanje osjetljivih ili osobnih podataka u javne AI alate | |
Imamo dodijeljenu osobu odgovornu za nadzor umjetne inteligencije | |
Osoblje razumije ograničenja AI alata koje koristi. |
Znakovi upozorenja na koje treba paziti
Ovo su znakovi da alat umjetne inteligencije možda ne radi etički:
🔴 Alat pruža rezultate, ali ne i objašnjenja
🔴 Zahtijeva nepotrebne osobne podatke
🔴 Ponaša se drugačije za slične korisnike
🔴 Rezultati marketinga ili zapošljavanja izgledaju sumnjivo iskrivljeno
🔴 Zaposlenici osjećaju pritisak da prihvate AI izlaze bez propitivanja
🔴 Organizacija skriva gdje se AI koristi
Ljudska uloga u osiguravanju etičke umjetne inteligencije
Čak i kada se AI integrira u radne procese, ljudi ostaju odgovorni.
Ljudi su odgovorni za:
- postavljanje granica i pravila za korištenje AI
- pregledavanje i odobravanje AI izlaza
- identificiranje i ispravljanje štetnih obrazaca
- komuniciranje odluka kupcima
- čuvanje sigurnosti podataka
- praćenje performansi tijekom vremena
AI podupire — ali ljudi odlučuju.
Razmišljanje
- Koje je etičko načelo trenutačno najrelevantnije vašem MSP-u?
- Gdje vidite najveći etički rizik?
- Koje se jedno malo poboljšanje vaša mala i srednja poduzeća mogu sutra dogoditi?
Jedinica 2 – Etika umjetne inteligencije i izazovi za mala i srednja poduzeća
Uobičajeni etički rizici za mala i srednja poduzeća
AI može poboljšati učinkovitost, donošenje odluka i korisničku podršku — ali također uvodi rizike koje MSP-ovi često zanemaruju.
Ovi rizici nisu teorijski: oni se pokazuju u svakodnevnim alatima poput chatbotova, automatiziranih oglasa, filtera za životopise i analitičkih nadzornih ploča.
Ova jedinica naglašava glavni etički rizici Mala i srednja poduzeća trebala bi razumjeti i osigurati praktični primjeri, crvene zastavice i savjeti za ublažavanje.
Etički rizik 1: Pristranost i diskriminacija
AI sustavi uče iz podataka — i ako podaci sadrže pristranost, AI će je ponoviti.
Kako ovo izgleda u stvarnim SME alatima
- Filtri za zapošljavanje ocjenjuju životopise niže zbog dobi, spola, nacionalnosti ili imena.
- Marketing AI uglavnom cilja oglase na usku demografsku skupinu.
- Chatbotovi krivo shvaćaju starije kupce ili one koji koriste nestandardizirane izraze.
- Kreditni modeli umanjuju ocjenu klijenata iz određenih poštanskih brojeva.
Zašto je ovo važno
- Nepravedni ishodi
- Isključeni kupci
- Šteta ugledu
- Potencijalne pravne posljedice prema zakonima o jednakosti i antidiskriminaciji
Crvene zastavice (na što obratiti pozornost)
- Preporuke snažno favoriziraju jednu skupinu
- AI izlaz “ne djeluje ispravno” ali osoblje ne može objasniti zašto
- Vrlo različiti rezultati za slične slučajeve
Kako MSP-ovi mogu smanjiti pristranost
- Uvijek koristi čovjek u procesu odlučivanja za odobrenja
- Testirajte alate s raznolikim primjerima
- Izbjegavajte unošenje osjetljivih osobnih podataka u automatizirane alate
- Odaberite dobavljače koji nude transparentnost o modelima i podacima za treniranje
Etički rizik 2: Nedostatak transparentnosti
Mnogi AI alati pružaju rezultate — ali ne i objašnjenje.
Za mala i srednja poduzeća ovo stvara zabunu i nepovjerenje.
Primjeri
- Rezultat podobnosti zajmu pojavljuje se bez obrazloženja.
- AI asistent daje prednost potencijalnim klijentima, ali osoblje ne zna zašto.
- Chatbot daje nedosljedne odgovore i nitko ne razumije njegovu logiku.
Zašto je to važno
- Djelatnici ne mogu opravdati odluke AI-ja kupcima.
- Mala i srednja poduzeća mogu se oslanjati na odluke koje ne mogu provjeriti.
- Teže je otkriti pogreške ili pristranost.
Crvene zastavice
- Alat kaže: “Odluka donesena. Objašnjenje nije dostupno.”
- Različiti članovi tima dobivaju različite izlaze iz istog upita.
- Prodavač ne može objasniti kako model funkcionira.
Kako mala i srednja poduzeća mogu poboljšati transparentnost
- Odaberite AI alate s “objašnjivim” značajkama
- Zahtijevajte od dobavljača da odgovore: “Koji čimbenici utječu na ovaj model?”
- Pojednostavljena objašnjenja za kupce
- Imati osobu odgovornu za pregled odluka vođenih umjetnom inteligencijom
Eticki rizik 3: Privatnost i zaštita podataka
AI alati često zahtijevaju pristup podacima — ponekad više nego što MSP shvaćaju.
Primjeri
- Prijenos korisničkih e-pošte u javne generativne AI alate
- Pomoćnici u marketingu koji pohranjuju korisničke podatke bez pristanka
- AI modeli CRM-a koji kombiniraju podatke kupaca s online ponašanjem
- Chatbotovi koji bilježe razgovore neograničeno
Zašto je to važno
- Kršenja GDPR-a
- Gubitak povjerenja kupaca
- Curenje podataka ili zlouporaba
- Osjetljivi podaci završavaju u obuci modela
Crvene zastavice
- AI alat traži nepotrebne osobne podatke
- Nedostatak jasnih postavki privatnosti
- “Pohranjujemo vaše podatke radi poboljšanja naših modela”
- Nema opcije za brisanje podataka
Strategije ublažavanja MSP-a
- Nemojte učitavati osjetljive osobne podatke u javne AI sustave
- Zadrži samo podatke koji su istinski potrebni
- Koristite alate koji omogućuju brisanje i izvoz podataka
- Pregledajte pravila o privatnosti prije usvajanja
Etički rizik 4: Sigurnost i ranjivost modela
Neke AI sustave se može manipulirati ili iskoristiti.
Primjeri
- Chatbotovi koji odgovaraju na zlonamjerne upite
- E-poruke generirane umjetnom inteligencijom korištene za lažno predstavljanje zaposlenika
- Alati za otkrivanje prijevara zaobiđeni korištenjem sintetičkih podataka
- “Probijeni” upiti koji proizvode štetne izlaze
Zašto je to važno
- Sigurnosni propusti
- Osoblje ili kupci koji primaju pogrešne informacije
- Šteta ugledu
- Regulatorna izloženost
Crvene zastavice
- AI proizvodi neočekivane ili štetne upute
- Nedostatak sigurnosnih certifikata dobavljača
- Nema rasporeda nadzora ili ažuriranja
- AI prihvaća proizvoljne unose bez ograničenja
Što MSP mogu učiniti
- Smjernice za osoblje o sigurnom promptanju
- Koristite alate s funkcijama moderacije sadržaja.
- Pitajte dobavljače kako se štite od “napada na model”
- Redovito ažurirajte ili zakrpajte sustave
Eticki rizik 5: Utjecaj na radnu snagu i organizaciju
Usvajanje umjetne inteligencije također može utjecati na zaposlenike — etički i kulturno.
Uobičajeni problemi
- Nesigurnost posla ili strah od zamjene
- Zbrka oko odgovornosti
- Smanjeno povjerenje ako odluke djeluju “algoritamski” ili nejasno
- Prevelika ovisnost o automatizaciji
- Nedostatak nadzora nad umjetnom inteligencijom
Na što bi MSP-ovi trebali staviti prioritet
- Komunicirajte otvoreno: AI pomaže, ljudi odlučuju
- Rano uključite osoblje u procjenu alata
- Pružite obuku o novim radnim procesima
- Definirajte jasne ljudske odgovornosti
- Osigurajte da zaposlenici mogu bez straha osporavati AI izlaze
Vježba
Korak 1 – Uoči rizik
Odaberite jedan AI alat koji Vaše malo ili srednje poduzeće koristi (ili bi ga moglo koristiti).
Identificirati jedan etički rizik i jedno ublažavanje.
Vježba B — Objasni odluku
Zamislite da je AI razvrstao životopis, označio rizik ili preporučio proizvod.
Napiši 2–3 rečenice objašnjenja kupcu ili kolegi.
Ako je teško → to pokazuje problem s transparentnošću.
Vježba C — Provjera podataka
Popis tri vrste podataka Vaš stručnjak prikuplja.
Odluči koje su:
- temeljni
- opcionalni
- nepotrebni
Ovo pomaže učenicima prepoznati probleme privatnosti.
Sažetak: Što MSP-ovi moraju zapamtiti
- AI može pojačati postojeće probleme ako se ne kontrolira.
- Etički rizici često proizlaze iz svakodnevnih alata, ne naprednih sustava
- Pristranost, nedostatak transparentnosti i problemi s privatnošću najčešći su zamke.
- Ljudi ostaju odgovorni za odluke
- Etika nije apstraktna — ona gradi povjerenje i štiti vaše poslovanje
Donji grafikon navodi najčešće pogreške koje tvrtke mogu napraviti pri etičkoj upotrebi umjetne inteligencije i predlaže neke mjere za ublažavanje rizika.
Uobičajena pogreška | Opis | Mjera ublažavanja |
Slijepo povjerenje u rezultate umjetne inteligencije | Pretpostavljajući da su sadržaj ili uvidi generirani umjetnom inteligencijom uvijek točni bez provjere | Uvijek provjerite činjenice i primijenite vlastiti sud prije poduzimanja radnji na temelju rezultata umjetne inteligencije |
Nedostatak transparentnosti | Korištenje alata umjetne inteligencije ili sadržaja generiranog umjetnom inteligencijom bez njihova otkrivanja | Budite transparentni u vezi s tim kada i kako se AI koristi, pogotovo u istraživanju, pisanju ili medijima |
Zanemarivanje privatnosti podataka | Unos osobnih, povjerljivih ili osjetljivih podataka u AI sustave. | Tretirajte AI sustave kao potencijalno javne—nikada ne unosite podatke koje ne biste sigurno podijelili |
Slijepe točke pristranosti i nepristranosti | Ignorirajući da AI modeli mogu odražavati i pojačavati ljudske pristranosti | Pazite na potencijalnu pristranost u skupovima podataka, materijalima za obuku i rezultatima, posebno u kontekstima zapošljavanja, pravnim ili zdravstvenim kontekstima. |
Zlouporaba ili prekomjerna upotreba umjetne inteligencije | Primjena AI u situacijama ili kontekstima gdje nije prikladna | Uvijek uključite čovjeka u proces donošenja osjetljivih, visokorizičnih ili moralnih odluka. |
Podcjenjivanje pravnog i reputacijskog rizika | Nepostizanje usklađenosti upotrebe AI s propisima (GDPR, Zakon o umjetnoj inteligenciji, radni zakoni) ili očekivanjima javnosti | Redovito pratite usklađenost s propisima kao što su EU Akt o umjetnoj inteligenciji i GDPR |
Etička načela koja treba imati na umu pri korištenju umjetne inteligencije:
- Odgovornost: Odgovorni ste za rezultate, a ne za alat.
- Pravednost: Poštujte sve korisnike i zainteresirane strane pravedno i s poštovanjem.
- Transparentnost: Budite iskreni u pogledu uloge i ograničenja umjetne inteligencije.
- Privatnost: Zaštitite podatke i pribavite suglasnost prije uporabe.
- Ljudski nadzor: Održavajte ljudsku reviziju i intervenciju u kritičnim fazama.
Jedinica 3: Etičko upravljanje umjetnom inteligencijom u vašem poslovanju
Uvod:
Poznavanje rizika umjetne inteligencije nije dovoljno — mala i srednja poduzeća trebaju praktične načine za upravljanje tim rizicima.
Ova jedinica daje polaznicima jednostavne, realne metode kako bi se osiguralo da se AI koristi odgovorno, sigurno i transparentno.
Fokusiramo se na ono što MSP-ovi mogu implementirati odmah, bez tehničkog znanja ili velikih proračuna.
Etika umjetne inteligencije u poslovanju za mala i srednja poduzeća: Jednostavan okvir
Ali oni može usvojiti lagan, učinkovit okvir temeljen na pet stupova:
Definiraj zašto koristite AI.
- Koji problem rješavamo?
- Je li AI pravi alat?
- Tko ima koristi?
Ovo sprječava nepažljivu ili nepotrebnu upotrebu umjetne inteligencije.
Osigurajte da su podaci:
- minimalno (samo ono što ti je stvarno potrebno)
- siguran
- prikupljeno zakonito (uz pristanak, ako je potrebno)
- sigurno pohranjeno
- dostupno samo relevantnom osoblju
Pitaj:
“Koje podatke ovaj alat koristi i trebaju li nam svi?”
Svaki zadatak podržan umjetnom inteligencijom mora imati ljudski vlasnik.
Osoba treba:
- pregledati važne iznose
- poništiti pogrešne odluke
- odgovarati na pitanja kupaca
- odobri sadržaj generiran umjetnom inteligencijom
- nadzirati ponašanje sustava
AI podržava; ljudi odlučuju.
Ljudi zaslužuju znati:
- kad se koristi umjetna inteligencija
- kakvu ulogu igra
- Tko je odgovoran za odluke
Mala i srednja poduzeća bi trebala:
- Obavijestite korisnike kada komuniciraju s chatbotom.
- Objasnite glavne odluke podržane umjetnom inteligencijom jednostavnim jezikom.
- Dokumentirajte kako alati utječu na tijekove rada
AI alate treba redovito provjeravati.
Ovo uključuje:
- provjera izlaznih podataka
- testiranje na nedosljedne ili pristrane rezultate
- pregledavanje povratnih informacija kupaca
- ažuriranje alata
- uklanjanje alata koji više ne služe poslovnoj svrsi
Za mnoge male i srednje tvrtke dovoljna je jednostavna mjesečna provjera.
Praktični Savjeti: Što Raditi i Što Ne Raditi kod Etičkog Korištenja AI
DO
- Koristite AI za podršku, a ne zamjenu, ljudskom donošenju odluka
- Pregledajte AI sadržaj za ton, točnost i pravednost
- Evidentirajte kako se AI alati koriste u radnim procesima
- Obučite osoblje o ograničenjima i sigurnom korištenju
- Osigurajte sigurno pohranjivanje korisničkih podataka
- Pitajte dobavljače da objasne kako njihovi sustavi donose odluke
NE
- Učitajte osjetljive podatke kupaca ili zaposlenika u javne AI alate
- Dopustite AI alatima da donose konačne odluke o zapošljavanju, financijama ili disciplinskim mjerama
- Oslonite se na tekst generiran umjetnom inteligencijom bez ljudske provjere
- Prikupljati više podataka nego što je potrebno
- Sakrijte upotrebu umjetne inteligencije od kupaca ili osoblja
- Ignoriraj neuobičajene ili nedosljedne AI izlaze
Kako mala i srednja poduzeća mogu primijeniti etička načela
Scenarij 1 — Alat za zapošljavanje
Alat za AI provjeru dosljedno rangira mlađe kandidate više.
Etički odgovor:
- Pročitajte kriterije koji se koriste
- Ponovno uravnotežite podatke za obuku ili prilagodite filtre
- Potreban je pregled čovjeka sve Životopisi
- Finalizirati odluke o zapošljavanju ručno
Scenarij 2 — Generator marketinškog sadržaja
Generativni alat umjetne inteligencije proizvodi tekst oglasa koji nenamjerno stereotipizira određene skupine.
Etički odgovor:
- Pregledajte AI generirani sadržaj prije objavljivanja
- Ukloni pristrani jezik
- Trenirajte model s boljim primjerima (ako su dostupni)
- Potrebno je odobrenje dviju osoba za osjetljive kampanje
Scenarij 3 — Chatbot za korisničku podršku
Chatbot teško obrađuje određene akcente i pogrešno usmjerava pozive.
Etički odgovor:
- Poboljšajte primjere fraza korištene za obuku
- Dodajte brzu opciju “Razgovarajte s osobom”
- Prati pogrešne klasifikacije radi nadzora
- Dajte osoblju tjedne sažetke uočenih problema
Scenarij 4 — Alat za prognozu prodaje
AI model predviđa manju potražnju, ali osoblje zna za nadolazeće događaje koji nisu obuhvaćeni podacima.
Etički odgovor:
- Usporedite AI izlaze s ljudskim znanjem
- Prilagodi prognozu ručno
- Dodajte kontekstualne napomene (npr. planirane promocije, lokalni događaji)
- Koristite AI kao polaznu točku, a ne kao konačan odgovor
Jednostavni alati za srednja i mala poduzeća za etičko upravljanje umjetnom inteligencijom
Mala i srednja poduzeća mogu koristiti lagane metode za osiguravanje odgovornog korištenja:
1. “Registar korištenja AI”
Jednostavna tablica koja navodi:
- svaki AI alat
- što to radi
- koje podatke koristi
- tko je odgovoran
- poznati rizici
- koliko se često pregledava
2. Mjesečni AI pregled
Jedna 30-minutna sesija za:
- Pregled problema
- testni izlazi
- provjeriti neuobičajeno ponašanje
- procijeniti je li alat još uvijek potreban
3. Kontrolni popis za ljudsku provjeru
Prije objavljivanja ili odobravanja AI izlaza:
- Je li informacija točna?
- Je li to fer i uključivo?
- Poštuje li privatnost?
- Može li kupac to krivo shvatiti?
Razumijemo li zašto je AI dao ovaj prijedlog?
4. Interni brzi vodiči
Kratke, lako čitljive upute za:
- Kada i kako osoblje može koristiti AI
- koje podatke mogu ili ne mogu prenijeti
- Kako postupiti kada problem zahtijeva višu razinu podrške
Vježba
Odaberite AI alat koji vaša mala i srednja poduzeća (MSP) koriste. Identificirajte:
- Jedan etički rizik
- Jedno poboljšanje transparentnosti koje biste mogli dodati
- Jedan propušteni korak
- Jedan korak komunikacije s kupcem
Jedinica 4: Dodatni resursi
AlgorithmWatch
Neprofitna organizacija koja prati kako automatizirani sustavi utječu na društvo.
Fokusiraju se na transparentnost, objašnjivost, i odgovornost u algoritmima.
https://algorithmwatch.org/en/
2. Institut AI Now (Newyorško sveučilište)
Istražuje društvene implikacije umjetne inteligencije, uključujući pravednost, diskriminaciju i javnu odgovornost.
Njihova izvješća pisana su pristupačnim jezikom — idealno za mala i srednja poduzeća.
https://ainowinstitute.org/
3. DARPA – Objašnjiva umjetna inteligencija (XAI program)
Američka agencija za napredne istraživačke projekte u obrani predvodi globalni rad na objašnjiva umjetna inteligencija — AI sustavi koji pokazuju zašto oni donose odluke.
Njihovi materijali korisni su za razumijevanje standarda transparentnosti.
https://www.darpa.mil/program/explainable-artificial-intelligence
4. CHAI – Centar za umjetnu inteligenciju kompatibilnu s ljudima (UC Berkeley)
Fokusira se na osiguravanje da AI sustavi ostanu korisno, pouzdano i usklađeno s ljudskim vrijednostima.
Njihovi resursi pomažu malim i srednjim poduzećima u razumijevanju dugoročnih rizika i sigurnog dizajna sustava.
https://humancompatible.ai/
5. NSCAI – Nacionalna komisija za sigurnost umjetne inteligencije
Neovisno povjerenstvo SAD-a koje ispituje kako AI utječe na nacionalnu sigurnost i odgovorne inovacije.
Korisno za etičke standarde i uvide u politiku na visokoj razini.
https://www.nscai.gov/
Scenarij - Zadatak: Procjena upotrebe umjetne inteligencije u malom i srednjem poduzeću
Scenarij
Srednje veliko poduzeće u maloprodaji nedavno je uvelo nekoliko AI alata:
- chatbot koji obrađuje upite korisnika
- AI asistent koji generira marketinški sadržaj
- automatizirani alat za provjeru životopisa
- nadzorna ploča za predviđanje potražnje koju koristi voditelj trgovine
Tijekom proteklog mjeseca osoblje je prijavilo probleme:
- Kupci su frustrirani kada chatbot daje netočne odgovore.
- marketinški postovi sadrže formulacije koje djeluju stereotipno
- čini se da filtriranje životopisa favorizira mlađe kandidate.
- prognoze ne uzimaju u obzir lokalne događaje, zbunjujući osoblje
- zaposlenici nisu sigurni tko je odgovoran za pregledavanje izlazaka umjetne inteligencije.
Tvoj zadatak
Napišite kratak odgovor (8–12 rečenica) na sljedeće:
- Identificirajte tri etička rizika prisutan u scenariju
(npr. pristranost, nedostatak transparentnosti, loš nadzor, zabrinutost za privatnost). - Objasnite zašto je svaki rizik bitan za kupce ili zaposlenike.
- Predlažem jedno realno rješenje za svaki rizik, koristeći okvire iz Jedinica 1–3
(na primjer, provjere uz sudjelovanje ljudi, izjave o transparentnosti, poboljšane prakse u vezi s podacima, mjesečni pregledi). - Tko bi trebao biti odgovoran za nadzor alata umjetne inteligencije.
Možete odgovoriti u formatu odlomka ili kao tablicu.
Financirano od strane Europske unije. Mišljenja i stavovi izraženi su isključivo autorovi/autora(a) i ne odražavaju nužno stavove Europske unije ili Izvršne agencije za obrazovanje i kulturu Europske unije (EACEA). Niti Europska unija niti EACEA ne mogu biti odgovorni za njih. [Broj projekta: 2024-1-AT01-KA220-VET-000245796]