Umjetna inteligencija pogađa koje ste rase na temelju vaših rendgenskih snimaka

Znanstvenici trenutno nisu sigurni zašto njihov UI sustav tako dobro prepoznaje rase na slikama i pozivaju na oprez 



Modeli dubokog učenja koji se temelje na umjetnoj inteligenciji mogu identificirati nečiju rasu samo na temelju njihovih X-zraka, otkrilo je novo istraživanje. Ovi nalazi ujedno otvaraju neka zabrinjavajuća pitanja o ulozi umjetne inteligencije u medicinskoj dijagnozi, procjeni i liječenju: može li računalni softver nenamjerno primijeniti rasnu pristranost prilikom proučavanja slika?

Iznenađujuće precizno

Nakon što su trenirali umjetnu inteligenciju koristeći stotine tisuća postojećih rendgenskih slika označenih detaljima rase pacijenta, istraživača iz SAD-a, Kanade i Tajvana testirali su sustav na rendgenskim slikama koje je računalni softver vidio prvi put i o njima nije imao dodatnih informacija.
Uzorci slika nakon korištenja nisko i visoko propusnih filtara u skupu podataka MXR
Pokazalo se kako je UI mogao predvidjeti rasu pacijenta s iznenađujućom točnošću, čak i kad je bila riječ o slikama različitih ljudi iste dobi i istog spola. U nekim slučajevima sustav je bio točan čak 90 posto.

---

Znanost nema odgovor

Znanstvenici trenutno nisu sigurni zašto njihov UI sustav tako dobro prepoznaje rase na slikama koje ne sadrže takve informacije. Dapače, ovaj model se iznenađujuće dobro snalazi čak i kad mu se zataje podaci o gustoći kostiju ili se sken fokusira na mali dio tijela. Moguće je, nagađaju istraživači, da sustav pronalazi neke, znanosti trenutno nepoznate znakove melanina, pigmenta koji koži daje boju.

---

UI radi što UI vidi

Ovo istraživanje nadovezuje se na rezultate prethodne studije koja je pokazala kako umjetna inteligencija na skenovima rendgenskih snimaka češće previđa znakove bolesti kod crnaca. Kako bi se to spriječilo, znanstvenici prvo moraju razumjeti zašto se to uopće događa.
Učinak na performanse modela dodavanjsm niskopropusnog i visokopropusnog filtra
"Namjeravali smo provesti sveobuhvatnu procjenu sposobnosti umjetne inteligencije da prepozna pacijentov rasni identitet iz medicinskih slika", pišu znanstvenici u radu objavljenom u The Lancet Digital Health. "Pokazujemo da se standardni modeli dubokog učenja umjetne inteligencije mogu osposobiti za predviđanje rase na temelju medicinskih slika."

---

Po svojoj prirodi, UI oponaša ljudsko razmišljanje kako bi brzo uočio obrasce u podacima. Ipak, to također znači da nesvjesno može podleći istim vrstama predrasuda. Što je još gore, njihova složenost otežava raspetljavanje predrasuda koje smo utkali u njih.

---

Kopiranje predrasuda

Istraživanje je ujedno novi dokaz da sustavi umjetne inteligencije često mogu odražavati ljudske pristranosti i predrasude, svejedno bila riječ o rasizmu, seksizmu ili nečem drugom. Iskrivljeni podaci u treningu mogu dovesti do iskrivljenih rezultata, što ih čini beskorisnima, upozoravaju istraživači.
Ovaj model se iznenađujuće dobro snalazi čak i kad mu se zataje podaci o gustoći kostiju ili se sken fokusira na mali dio tijela
Ne pomaže ni činjenica da umjetna inteligencija pritom može obraditi puno više podataka u puno manje vremena nego ljudi, od tehnika otkrivanja bolesti do modela klimatskih promjena.
"Moramo napraviti stanku", kažu istraživači. "Ne smijemo žuriti s unošenjem algoritama u bolnice i klinike dok ne budemo sigurni da ne donose rasističke ili seksističke odluke."

"Ne smijemo žuriti s unošenjem algoritama u bolnice i klinike dok ne budemo sigurni da ne donose rasističke ili seksističke odluke."

Jebiga, kad umjetna inteligencija nije woke i PC  

čemu nauka za prepoznavavnje rase ako brane rasizam
planiraju istrebljenje ili prepoznavanje rase kod iskopavanja mrtvih??

svi smo isti ispod kože il ne

Izgleda da nismo. Ali kako optužiti stroj da je rasist?

inače šta ovdje umjetna inteligencija radi nije neki "misterij".

svaka slika se sastoji od brojeva između 0-255, iz tri kanala. kasnije ti ide u jedan kanal 0-255. gray scale. napravi se rescale, šta ja znam slika koja je original ne znam par tisuća * par tisuća pixela se sreže na max par stotina * par stotina radi brže obrade.. zatim se i ti brojevi od 0-255 dijele sa 255 da se dobiju skalirani brojevi između 0 i 1 da se brže obavljaju operacije u grafičkim karticama.

i onda ga ubaciš u neuralnu mrežu, možeš napraviti vlastitu  a postoje već istrenirane koju downloadaš i samo makneš zadnja dva tri sloja.
odreiš neka pravila i klikneš enter i "umjetna inteligencija uči".

uči tako da u početku napravi nasumično pogađanje sa nasumičnim parametrima gdje nema nikakvu preciznost. postoji "greška" po kojoj se vidi koliko odstupa predviđanje od očekivane vrijednosti.
i zatim se ta greška smanjuje uz pomoć parcijalne derivacije traži se minimum greške. (odnosno najmanje odstupanje između tipa ono što je model predvidio u prvom krugu učenja i ono što je u stvarnosti). nakon tonu iteracija ako zaista postoje neke značajke i razlike , model nauči razlikovati bijelce i crnce i azijate.

pošto se ovdje radi o rengenu, čak su mu i makli sliku "gustoće kostiju", dakle model je očito naučio da postoje razlike između kostiju rasa.

između kostiju lubanja postoje razlike to se zna. to i prosječan čovjek može skužiti.
sada iz ostalih kostiju nisam zna, ali je zanimljivo.
jednostavno "umjetna inteligencija" (a to nije ništa drugo ne već razvijeni matematički/statistički modeli iz matematike koja se gotovo uči u hrpi srednjih škola i većini fakulteta od ekonomije pa do ing fakulteta) uz pomoć koda sami traže minimalnu grešku funkcije, odnosno značajke po kojima se razlikuju rase.

šta je to, naravno da ti programeri znaju, znaju i znanstvenici, te razlike se mogu dobiti uz par linija koda , ali nije "politički korektno" to izjaviti, pa je lakše prodati priču javnosti "nemamo pojma šta se događa, A.I su rasisti"

catabbath wrote:Izgleda da nismo. Ali kako optužiti stroj da je rasist?

koji stroj?

stroj je stroj.

programi rade po algoritmima

algoritam za grešku boje na automobilu jednak je algoritmu za pigmentaciju kože.

pišete gluposti.

iz neznanja ili iz zlobe.

i ne postoje rase.
postoje samo odmaci i grananje unuter jedne rase.

sve drugo su pizdarije.

catabbath wrote:

 ne postoje rase.

 iz zlobe.

i? to je argument?

raznolikost gena odnosno dna i rnk čovječanstvu nudi progresivnost.

zatvorene zajednice poput raznih ruralnih područja ili kastinske tipa britanske krune stvaraju degenerike.

isto tako kod azijata ne postoji down sindrom dok je u europi, a pogotovo u americi izražen.
svi vuku porjeklo od džings kana i veselih mongola.
svatko tko ima u obitelji debilčeka u prošlosti se pario s azijatima.

isto tako je niža inteligencija u australiji u odnosu na druge države comonwelltha.
opet logično jer su slali kažnjenike u pizdu materinu. čim su došli u poziciju da tamo završe nije ih krasila inteligencija.


rasizam je u biti nova izmišljotina iskompleksiranog austrijanca koji je igrom slućaja i tyssen-krupp moćnika postao kancelar.

da postoje rase bili bi totalno različiti. a to bi onda bile vrste.

Hoćeš reći da kad bi npr. fiktivna rasa crnaca šopala podacima umjetnu inteligenciju da ova više nebi qurtza prepoznavala? Srećom pa oni nemaju baš puno znanstvenika u usporedbi sa drugim fiktivnim rasama :)

catabbath wrote:Hoćeš reći da kad bi npr. fiktivna rasa crnaca šopala podacima umjetnu inteligenciju da ova više nebi qurtza prepoznavala? Srećom pa oni nemaju baš puno znanstvenika u usporedbi sa drugim fiktivnim rasama :)

sereš bez veze i očito bez ikakve znanstvene osnove.

recimo, napišem algoritam koji mora zadovoljiti određeni broj parametar bitnih za proizvod. trenutno radim u daimleru ali testiramo motore za bmw, VW, PSA.

procedura je standardna. spajaš motor na stol. tri faze, nula, zemlja. normalni radni napon je 400V, s tim da se testira proboj na 10kV.
standardno su tu frekventni pretvarači koji testiraju opterećenje na niskim frekvencijama.

sam mjerni stroj ne zna čiji je motor.
naša oznaka unutar daimlera je WS.

kada testiramo druge firme stavljamo oznake koje nam dostave.
bmw ima oznaku eBMW
VW ima kessel.

stroj ne zna što testira, tek kada testni tehničar upiše svoje ime i skenira kod stroj"zna" što testira i po kojim parametrima.

automobil je automobil, čak i kamion je automobil.

Brkaš generičke algoritme i neuralne mreže. Brkaš pojmove. 


On topic na temu, AI sve pogađa skoro bez greške a ovi poima nemaju zašto. Samo po sebi to nije loša stvar ali problem je da su rezultati koji su istiniti u suprotnosti sa trenutnim rodnim i rasnim narativom koji se forsira na zapadu a ne možeš softver optužiti da je nacist.

catabbath wrote:Brkaš generičke algoritme i neuralne mreže. Brkaš pojmove. 


On topic na temu, AI sve pogađa skoro bez greške a ovi poima nemaju zašto. Samo po sebi to nije loša stvar ali problem je da su rezultati koji su istiniti u suprotnosti sa trenutnim rodnim i rasnim narativom koji se forsira na zapadu a ne možeš softver optužiti da je nacist.

nikaj ja ne brkam.

bilo koji "AI" mi smo napisali.

isti taj softver možemo koristiti u autoindustriji i testiranju motora.

ako stavim stator od bmw-a AI ne zna da je to stator od bmw-a.
stator je stator.

netko je u algoritmu odredio slijed nekih parametara.

bmw statori se razlikuju od vw statora u debljini lima, nanosu laka i izolacijskom papiru namota.

za testni stroj to nema nikakve veze.
netko mora odrediti parametre.

i svi ste opterećeni tim "narativom" rodnih i inih sukladnosti.
za razliku od kradezej televizije, život je malo drugačiji.
zapale ti auto jer imaš tursku zastavicu nakeljenu na gepeku.

rvatu iz ercegvukojebine zakurili auto jer je imao krunicu oko špigla.
problem je kaj njemački desničari ne razlikuju muslimanska zrna kave na ogrlici i katolička.
njima svaka krunica izgleda ko turska, pa poliju auto benzinom.

sranja se dese, kao i kod loše pisanog algoritma

lol!

veber wok

vuksadinare wrote:veber wok

A valjda kad dođeš kao stranac u firmu onda odmah te pošalju na čipiranje zapadnim progresivnim pizdarijama :)

Mislim, radim i ja za stranu firmu ali remote tako da ta određena progresivna sranja moram trpiti samo online, nasmijem se i tipkam dalje :)

catabbath wrote:

vuksadinare wrote:veber wok

A valjda kad dođeš kao stranac u firmu onda odmah te pošalju na čipiranje zapadnim progresivnim pizdarijama :)

Mislim, radim i ja za stranu firmu ali remote tako da ta određena progresivna sranja moram trpiti samo online, nasmijem se i tipkam dalje :)

80% firme su inžinjeri
60% je ekipa iz zagreba i okolice.

dva su službena jezika.
hrvatski
i za strance njemački.

(a s obzirom na moje njemačko prezime koje je rijetko i u njemačkoj ljudi koji me ne poznaju osobno misle da sam nijemac. u firmi nema arapa, crnaca-osim jednog, ante se zove i rođen je u zaprešiću-turaka niti sličnih merkeličnih inžinjera)
((a za antu nisam znao da je rođen u zaprešiću i da kajka sve u 16 pa sam prilikom teškog rada kada smo morali popiti kavu, pitao kolegu jel kmica govori neki jezik osim majmunskog. pa sam onda imao neugodnjak kada je "kmica" na čistom zagrebačkom dijalektu rekao; "jebo te kmica u čvalje, pijem crnu bez šećera"))