BEG airport status
Kasparov protiv Deep Bluea u vazduhu: Da li je veštačka inteligencija uspela da pobedi vojnog pilota? Posle avio-kompanija i USAF želi da izbaci pilote i zameni ih veštačkom inteligencijom? / Foto: Lokid Martin

Kasparov protiv Deep Bluea u vazduhu: Da li je veštačka inteligencija uspela da pobedi vojnog pilota?

Pre par nedelja pojavila se gromopucatelna vest – softver koji je razvila privatna kompanija u simuliranoj vazdušnoj borbi pobedio je kvalifikovanog borbenog pilota. Da vest bude još crnja i gora, pobeda je bila potpuno na strani AI (Artificial Inteligence sistema), konačni rezultat je bio 5:0, a pilot nije uspeo da postigne niti jedan jedini “pogodak”. Savršen recept za sve internet pametnjakoviće i wiki doktorante, pa nije ni čudo da su stupci gotovo svih medija koji se bave vazduhoplovnom tehnologijom bili zauzeti te da su se njihovi domeni počeli ljuljati od poseta i komentara.

No, dajmo kontekst: DARPA (Defense Advanced Research Projects Agency) je organizovala turnir kompanija koje se bave razvojem veštačke inteligencije za potrebe razvijanja programa koji bi u perspektivi mogli da upravljaju borbenim avionima te zamene ljudske pilote. Takmičenje pod nazivom AlfaDogfight trials izazvalo je nekolicinu kompanija koje su ponudile svoje proizvode i svi su algoritmi imali prilike da se prvo oprobaju između sebe u međusobnim duelima a da se pobednik na kraju suoči sa iskusnim vojnim pilotom, čovekom. Proizvod kompanije Haron Systems – softver sa mogućnošću dubinskog i ojačanog učenja (deep and reinforced learning) – je odneo triumf u međusobnim duelima a zatim je u okršaju sa vojnim pilotom u pet mečeva izvojevao beskompromisnu pobedu u rezultatu pet pobeda i ni jedna izgubljena borba.

Koliko je AI bio nadmoćan, pokazuje i podatak da pilot nije uspeo da postigne niti jedan jedini pogodak. A nije da je u pitanju bio nekakav pilot drugog ešalona izgreban sa dna kace: njegovo ime doduše, osim “Banger” callsigna, nije otkriveno, ali jeste informacija da je u pitanju pilot nacionalne garde okruga Kolumbije te da je skoro završio USAF-ov Top Gun (Air Forces Weapons School’s F-16 Wapons Instructor Course) i da ima više od 2000 sati naleta na F-16. Dodajmo na kraju da je pobeda izvojevana u oštroj konkurenciji: konkurenti sa svojim softverima su bili još Aurora Flight Sciences, EpiSys Science, Georgia Tech Research Institute, Perspecta Labs, PhysicsAI, SoarTech pa čak i jedan Locheed Martin.

Ne bi internet bio to što jeste da se momentalno nije našla gomila pametnjakovića i ostalih influensera koji su gotovo u trenutku identifikovali da je AI u ovom slučaju bio donekle, ako želite, “privilegovan”. Primerice, AI je – nasuprot pilota – imao potpunu situacionu svest (absolute awareness), dakle nije imao vizuelna ili senzorska ograničenja, te da su propozicije takmičenja definisale svaki položaj “na nišanu” kao pogodak bez obzira na verovatnoću pogotka a kao pogodak se računao takozvani “time on target” parametar (obaranje protivnika je notirano nakon određenog vremena unutar krstića). Stoga valja primetiti da je program koji je pobedio imao relativno jednostavan zadatak. Održavanje energije i okretanje nosa prema protivniku – i da je Haron Systems (a vrlo verovatno i ostali elektronski takmaci) izgleda ukrojio sopstveni proizvod ponajpre za pobedu u takmičenju i okruženju simulatora pre nego za potrebe eventualnog stvarnog borbenog okruženja. Propozicije su kazale da je svaki “nose on” pogodak? Napravi AI koji će favorizovati “nose on” poziciju bez obzira što su neke od takvih pozicija zapravo poprilično nepovoljne.

Marketing u službi radnog prava u kojem piloti izvlače deblji kraj? / Foto: Lokid Martin

Sa druge strane, pilot koji se našao u relativno nepoznatom okruženju (vojni piloti, suprotno uvreženom mišljenju, retko igraju DCS i retko – ako i ikad – vežbaju vođenje bliske vazdušne borbe u simulatorima) i koji je imao ograničenja koja bi i inače imao vodio je borbe onako kako je istreniran: za dominantnu poziciju visoke energije i visoku verovatnoću pogotka na metu malog aspekta. I rezultat je na kraju relativno očekivan i jednoobrazan. Gotovo sve pobede softvera bile su u situacijama visokog aspekta mete i situacijama u kojima je Banger bio u (relativno) dobrim pozicijama (nažalost, video snimci do kojih se može doći nešto su lošijeg kvaliteta pa je za sada teška podrobnija analiza prvenstveno brzina i napadnih uglova). Drugim rečima, u “stvarnosti” to ne bi išlo tako lako kao što je išlo u simulatoru. Trećim rečima, od realne primene u borbenim uslovima smo još veoma daleko.

Primetimo stoga još jednu zanimljivu stvar: možda ne znamo koliko brzo ovaj novorazvijeni softver može da uči, ali znamo da ljudi mogu poprilično brzo, pa ostaje nejasno zašto Banger svoju taktiku nije menjao tokom simuliranih borbi kada je postalo očigledno – a poprilično brzo je bilo očigledno – koju taktiku koristi algoritam.

Priči nije kraj jer vest naravno niti može niti će izbeći utvari savremenih diskusija o automatizaciji i polakom ali sigurnom procesu činjenja ljudi suvišnim, pa su mnogi važnost događaja uporedili sa onim iz 1997. godine kada je kompjuter Deep Blue pobedio šahistu Kasparova. Jer ceo je događaj bio dizajniran i izveden kao jedan dosta dobar PR manevar (pun intended), sa ozbiljnom medijskom potpornom konstrukcijom, pa ostaje sada nejasno da li su i rezultati zapravo bili više potrebni no neizbežni. Uostalom, marketing danas uveliko zavisi od buzzwordsa od kojih je “Artificial Inteligence” jedna od prvih i najvažnijih a i vojska je institucija koja poslednjih decenija sve više zavisi od dobrog imidža pa u sopstveni marketing mora puno da ulaže.

Dakle, kome je upućen ovaj događaj lociran negde na granici naučne fantastike i reklame?

Indikativne su reči programskog menadžera DARPA-inog programa za evoluciju vazdušne borbe Danijela Javorseka: “Ako je ovaj događaj uspeo da ubedi makar nekoliko pilota, onda ga smatram uspešnim”. U skladu sa onom krilaticom o statistici koja je kao bikini koji pokazuje sve a ne otkriva ništa, Javorsekove reči su upravo sasvim suprotno: nije otkriveno ništa ali je sve jasno. Target grupa su bili piloti a ono što je valjalo pokazati im je, valjda, da im je zamena u relativno kasnom stadijumu razvoja i da neće proći previše vremena do trenutka u kojem će se pilotima ponuditi izbor: niža plata ili vrata.

Uistinu neobična koincidencija – ako je ovaj događaj ubedio par pilota, jedan raniji ubedio je isto tako njih par. Ilon Mask još u martu spektakularno najavljuje kraj ere pilota. Ali nemojmo se previše sekirati oko Maskovih reči jer u pitanju je još jedna koincidencija: čovek koji prodaje autonomne sisteme (koji doduše još uvek nisu sazreli do upotrebljivosti) reklamira autonomne sisteme i najavljuje da ste u budućnosti svi suvišni. Uostalom, istorijski nije u pitanju ni najmanje nov fenomen, a veštačka inteligencija koja bolje od nas radi sve možda i nije primarni uzrok nevolja pilota. O njihovim radnim uslovima i sve bleđem glamuru avijacijske industrije i pilotskog zanata na ovom je sajtu već pisano i tek će se pisati.

Ali bazična računica odnosa cene i korisnosti ukazuje na to da se automatizacija isplati i da se najviše isplati onda kada zamenjuje “skup” rad i ona zanimanja za koje je potrebna visoka kvalifikacija. A piloti ratnog vazduhoplovstva poprilično su ozbiljan izdatak. Rand korporacija je pre otprilike godinu i po dana na osnovu različitih parametara procenila cenu obuke jednog kvalifikovanog pilota aviona pete generacije na oko deset miliona dolara (10,9 miliona za pilota F-22 i 10,17 za pilota f-35). Pa dodajte tome i redovnu platu, osiguranje, pa dodajte da je za optimalnno funkcionisanje avijacije po jednom avionu neophodno nekoliko posada i računica je jednostavna.

Uostalom kad vama počne da se bave DARPA i Rand korporacija, nek su vam u pomoći Bog i sistemi socijalnog osiguranja.

    Komentari

    D

    Vrlo uskoro borba izmedju pravog pilota i AI licit ce kao kad pocetnik igra sah protiv kompjutra. Pilot jednostavno nece znati sto ga je snaslo. Sto god napravio, uvijek gubi. Glavni razlozi su, izmedju ostalog: numericki dokazan najbolji izbor strategije u datom trenutku, predikcija buducih postupaka protivnika, brzina reakcije, eksponencijalna krivulja ucenja i izbegavanje pogreske nepotpunog nabrajanja.

    Odgovori
    A

    Ima zabavnih primera u kome neural network uci kako da igra Super Maria. Posle dovoljno treninga, počinje da otkriva poteze koji su neverovatni.

    Ok, ovo je primer za studentariju, ali…
    Razmislite o tome šta zaista znaju, a ne žele da pokazuju…

    I setite se poteza koje je F-35 počeo da izvodi, a koji jako podsećaju na figure koje su bile rezervisane za vektorisani potisak

    T

    i bolje od bilo kojeg pancira Zemlju bi branili medjusobno povezan roj mlaznih dronova primitivne konstrukcije, kao npr mig 21/f4 sa flybywire i mozgom ajfona.
    Za to vrijeme kopneni autonomni dronovi slamaju poslednja uporista Prevazidjenih.

    B

    U stvarnosti, jos dugo autopilot nece moci da zameni pilota. Suvise nepredvidjenih stvari moze se dogoditi koje kompjuter ne moze predvideti. Vidimo i kako ide sa auto pilotom u automobilima, koji s nisu proslavili. Kao pomoc pilot je dobra stvar, ali kao zamena, jos neko vreme ne.

    Odgovori
    D

    @Bob niste u pravu. Autopilot u automobilu vec danas uspjesno zamjenjuje vozaca. Nije savrsen, ali nista nije savrseno. U usporedbi s vozacem smanjuje vjerojatnocu sudara 10 puta.

    Problem je da jos uvijek kosta previse da bi se mogao serijski ugradjivati u automobile, pogotovo u one jeftinije. S druge strane, dok se ne pocne serijski ugradjivati u automobile, kostat ce koliko kosta.

    Nekako mi se cini da vojske nemaju problema s novcima i da si to mogu priustiti, pogotovo, ako skolovanje jednog pilota kosta 10M dolara.

    A

    @Danilo

    U automobilu autopilot danas ne zamenjuje uspešno vozača, ne znam odakle vam ta ideja. Sistemi su daleko daleko od usavršenih. I nije problem u ceni

    B

    Danilo
    Imas snimke na jutjubu gde automobili sa autopilotom ne reaguju i naprave udes.

    D

    Bob istina. Ima snimki na youtoubeu gdje isto covjek napravi udes. :-) https://waymo.com/

    D

    @Andrija

    Recimo da mi je AI struka. ;-) https://waymo.com/

    B

    Danilo

    Ali ovde se ne govori o pilotima, vec o tome da li Autopilot moze da zameni pilota. A odnos udesa u procentima je visestruko veci kod autopilota.Da li bi se ti vozio u vozilu gde upravlja autopilot. Verovatno nebi, a ne bih ni ja. Jos cemo dugo pricekati dok vozila, pa i avioni ne postanu samostalni. Kazem opet, kao pomocno sretstvo da, a kao samostalno, jos uvek ne.

    B

    @Danilo

    Teslin Ai sistem se baš i nije proslavio. Evo u Kini je pre neki dan Tesla pregazio i ubio nekoliko ljudi. Malo, malo pa neki Tesla sam od sebe ubrza i slupa se u nešto.

    D

    @Bob Vase razmisljanje je potpuno logicno. Jedino sto je bazirano na krivim pretpostavkama. Evo malo egzaktnih brojki za Teslu, s tim da je Google puno bolji: https://www.google.ch/amp/s/phys.org/news/2018-10-tesla-quarterly-safety.amp U prosjeku, autonomna voznja ima oko 10 puta manje nesreca nego prosjecni vozac.

    Doci ce vrijeme kad ni Vi ni ja necemo dati covjeku da nas vozi (a ni nase bliznje), jer je AI 10 PUTA sigurniji. 😊

    Č

    Zanimljiva ilustracija, ali svakom pilotu je mnogo teško letenje i borba u simulaciji nego što je to u stvarnom okruženju. AI ima prednost što može veću G-silu da izvuče i duže je zadrži od ljudskog pilota i preciznije upravlja avionom. Mane su svakako što se sva ta elektronika može ometati i onesposobiti. Posebna priča je što se zadnjih 30+ godina više ne vode ovakvi dogfajti a AI teško da može šta da napravi kada ga ulovi PVO sem da uštedi troškove spasavanja pilota živog ili mrtvog. U svakom slučaju jezivo na šta će ličiti ovo za 20-30 godina.

    Odgovori
    G

    Uvijek bi svoj zivot i slobodu neba povjerio covjeku,pilotu,nego masini pa da ne znam koliko bila superiorna i bolja od covijeka.Za svaku masinu postoji fora koja moze cijelu eskadrilu uciniti neupotrebljivom,a za svakog pilota treba posebna i druga fora kako ga neutralisati.Moj glas ide covijeku,pilotu.

    Odgovori
    m

    Masina ce začas imati iskustva koliko svi piloti zajedno. Npr tesla to radi tako da AI analizira sve situacije i onda one koje ne zna riješiti šalje u centralu – i tako desetine tisuća auta svaki dan. Iduće jutro svaka Tesla postaje pametnija za milion odvoženih km – i tako progresivno. Da ne govorimo koliko vise senzora i inputa moze mašina istovremeno obrađivati od čovjeka.

    D

    Max je to odlicno obrazlozio.

    Problem je u tome što čovek RAZUME šta radi, razume da vozi automobil ili upravlja borbenim avionom. AI samo rešava skup jednačina i ne razume šta to izračunato rešenje predstavlja.

    A to što Tesla svakog jutra menja težinske faktore neuralnih mreža znači i to da NEKO DRUGI to isto može da uradi tim istim Teslinim vozilima, a da AI engine neće uopšte skapirati da su izmene došle sa mesta sa kojeg ne bi trebale da dođu. Davno je bivši šef FBI-ja rekao „postoje samo dve vrste kompanija u svetu – one koje su već hakovane i one koje će tek biti hakovane!“

    m

    Cijela poanta AI na cesti je da maksimalno smanji broj prometnih udesa, u vojsci da najefikasnije srusi neprijatelja.
    AI nikad nije umoran, nema napad bijesa, nije bolestan ni psihicki labilan. Radi sa daleko vise senzora i inputa nego covjek, te ce zahvaljujuci povezivanju sa drugima uciti neuspredivo brze.
    Hoce li ga neko hackirati? Vjerojatno, jednako kao sto odgoje covjeka da bude terorist samoubojica.

    d

    Некоректно је рећи „Ne bi internet bio to što jeste da se momentalno nije našla gomila pametnjakovića“. На чему базирате закључак да су то само паметњаковићи? То је први.
    А друго да би се та и таква борба одиграла и да би била реалан приступ мора се много предуслова направити. У овом случају, по оном што пише у медијима, нису ни приближно били реални услови.
    И нико не зна колико је програм реалан и да ли онемогућује дејства и намјере пилота.

    Odgovori
    I

    Ako ste imali prilike da odgledate film Skyline( imate filmsku sekvencu borbe USAF & aliens dronova. To je nesto sto bi moglo biti dio inventure buduceg USAF….:)

    Odgovori
    1

    Ne treba zaboraviti da mašina nema fiziološka ograničenja čoveka. Istrpeće velike G sile u bilo kom pravcu, nema potrebe za snom, hranom vodom ,odmorom, nema etička ograničenja. Za AI pilota projektovaće se verovatno i nekonvencionalnije letelice u odnosu na ono što prepoznajemo kao avion danas. A kako je projekat sproveden, evo vam konkursa, faza jedan, izvolite najbolji u fazu dva, pokazuje i šta je bila ideja, demonstrirati da je moguće početi razvoj AI za borbene letelice već danas. A što se tiče opisane strategije, ili taktike borbe AI, pa ona radi ono što je trenirana, a kako dolazi do rešenja, e to je tek pitanje nad pitanjima, jer ima primera od šaha, go, pa i komponaovanja muzike da ispostavlja rešenja koja pišu novu teoriju. Ali pre svega to je i dalje ono što se uvek zvalo ekspertskim sistemom koji nalazi rešenje u skakanju od jednog fenomena do drugog, odnosno kao i svaki data model dobra je onoliko koliko podaci na kojima je trenirana. Potencijal postoji, razvoj moguć, para imaju, a piloti će da pomognu, što kao proizvodjači podataka, što kao izazivači. Čudno je samo da nisu ranije krenuli.

    Odgovori
    Б

    За ваздушну борбу је потребно мање интелигенције него за играње шаха, тако да је ово лакши задатак. Компјутер нема ограничења код гравитационих сила, а не мора ни да пишки и каки, тако да је ће за 20 година ово бити стандард. Такође је лакше заменити пилота авиона компјутером, него возача јер је копнени саобраћај неупоредиво гушћи. Уосталом, аутопилот у авиону постоји много пре него у аутомобилу.

    Odgovori
    D

    Potpisujem.

    M

    Velika je razlika između autopilota u kolima, u komercijalnom avionu (ili bilo kojem drugom koji treba da poleti, prati rutu, sleti), i u borbenom koji treba da obori drugi avion. Potrebni AI im uopšte nisu za poređenje.

    Komercijalnom avionu (niti pilotu u komercijalnom avionu) ne izleću pešaci iz zbunja ni traktori iz kukuruza, ne naleću na rupe na putu ili na blato sa traktora, ne uleću im el.trotineti ili biciklisti u mrtav ugao, ne seku ih u kružnom toku, ne nailaze na raskrsnice gde je neko ukrao saobraćajni znak, ili gde je crkla sijalica na smaforu, ne nailaze na dva uzastopna a kontraverzna saobraćajna znaka… Avion ne leti između stotina drugih aviona na maleckom rastojanju gde jednog od njih vozi nervozan ili pripit pilot, i ne uleću drugi ispred njih sa ili bez žmigavca…

    Tačno da autopiloti u Teslama imaju odnos pređeni-kilometri-na-autopilotu/udesi (misli se ukupno, sve Tesle), daleko bolji nego što je prosek za ljudske vozače. Ali 90% svih autonomnih vožnji Tesli je odražavanje pravca i brzine na otvorenim putevima. Kada se uđe u gradove i gušći saobraćaj, iako može, retko ko zaista daje Tesli da ga vozi AI.

    A da ne pričamo kako će autopilot u kolima da se snađe u Indiji?!?
    Zaista bih voleo da vidim Teslu da se samovozi u New Delhi-ju. Možda se neće sudariti, ali neće nigde ni stići :D

    Koliko god čudno zvučalo, običan drumski saobraćaj ima mnogo više nepredvidljivih momenata nego vazdušni (dokle god su letelica ili automobil potpuno ispravni). Avio sabraćaj se može uvesti pod 100%-prati-proceduru sistem i ima mnogo stroža pravila, za razliku od drumskog. Avion npr. bez problema može da poleti, leti i sleti bez optičke vidljivosti napolju. Automobil, on ne može ni da mrdne. Zbog toga ćemo full autopilot u kolima (level 5) čekati još jako dugo. Nakon prvog hype-a pre 10-ak godina i obećanja full-autonomnih vozila do 2020-25, danas se i upravni odbori kompanija koje razvijaju AI za vozila slažu da do sredine veka nema ništa od toga.

    AI u komercijalnim avionima bi nam mogao biti bliže, ali treba još mnogo toga da se usvoji i standardizuje. Ali ne znam koliko se radi na tome. Recimo, komunikacija između AI u dva bliska aviona i između AI i takođe nekog AI u kontroli leta. Npr. AI u avionu ne može da prima usmene informacije od ATC, već se to mora definisati nekim novim načinom rada, mora se sve umrežiti novim komunikacionim protokolima i automatizovanim procedurama, i bla. bla. bla…

    A baš borbeni avion, u velikoj je u prednosti kada treba implementirati AI. Dogfight je sve ređi, a borba na daljinu, uz informacije sa AWACS sistema, umrežavanje aviona, AWACS-a i samih raketa, jako olakšava posao nekom AI-ju. Vojska može vrlo brzo da usvoji svoje procedure i digitalne protokole, za razliku od komercijalnog saobraćaja gde to mora da se radi sinhronizovano u celom svetu.

    Plus što vojni AI može da trpi onolike G sile koliko može airframe, može mnogo drastičnijim manevrima da izbegava neprijateljske rakete, i ne mora da se spašava pilot iz oborenog aviona.

    Odgovori
    D

    @Miki odlican komentar. Samo mala korekcija: potpuno autonomna voznja vec postoji. Vidite Google: https://waymo.com/ Jedino ogranicenje je da je jos uviek vrlo skupo za ugraditi u serijske automobile, npr. samo jedan LIDAR kosta oko 8.000 USD, tako da bi neki manji auto kostao 23.000 umjesto 15.000 USD sto ga cini nekonkurentnim.

    M

    Danilo, level 5 autonomni automobili postoje (level 5 je praktično, automobil bez komandi za čoveka), ali samo kao test projekti. NIKO još nije dozvolio autonomnu komercijalnu vožnju u redovnom saobraćaju na sadašnjim putevima, i neće još dugo.

    Kada su se baš udubili u problem, projektantski timovi su počeli da naleću na u početku neočekivane i nerešive probleme. Npr. ako AI u vozilu oceni da je udes neizbežan (eto, zbog greške drugog vozila), AI mora da odluči koga da čuva. Svoje putnike, ili neke ljude napolju? Pešake ili putnike u vozilu? Motociklistu koji ima kacigu, ili biciklistu koji nema?!? AI mora da računa „težinski faktor stradalih ljudi u vozilu i oko njega“ i na osnovu toga da donosi odluke u kritičnim momentima, a to je veoma tricky za programirati, i postavlja ozbiljne moralne norme pred developere.

    Spomenuti waymo, proistekao iz Google car, i dalje je u beta fazi.
    Ja bih voleo da ga vidim da vozi kroz Indiju. :(

    Mislim, da se razumemo, automna vozila nisu problem, na trakama predviđenim za njih, i na rutama predviđenim za njih (kao uostalom, i za avione). Več postoje shuttle kombiji između pojedinih aerodroma i određenih tačaka u obližnjim gradovima. Ali auto-drive automobil u savremenom saobraćaju, pa još ako nije neka uređena Švajcarska sa savršenom infrastrukturom, jako je daleko.

    M

    I da dodam još komentar oko cene, možda bi self-driving HW i SW bili skupi za nas i Škodu Oktaviju npr, ali su sića za npr. drumsku krstaricu, tegljač, koji znaju da koštaju puno preko 100k€, a koji bi kao self-driving mogli da voze 24/7. Ili flota luksuznih kombija koji bi vozili od JFK do Menhetna. Tu cena ne bi imala uticaja na izbor, da postoji.
    Kada konačno bude pravih self-driving vozila, prvo ćemo ih viđati na ovako nekim mestima, a ne u ličnim vozilima.

    m

    Sva ta ograničenja o kojima pričate će vrlo brzo biti prevaziđena – lidaru pada cijena rapidno (koliko je bila cijena SSD diska prije 10 godina?). Tako danas svaki novi auto u EU ima radar.
    Snalaženje Tesle u gradu svakim danom je eksponencijalno sve bolje jer se analizira i nadopunjava AI svakom Teslom koja prođe kroz grad i pošalje analizu nepredviđenih situacija.
    Jednako tako u vojnom avionu kao i u šahu će AI naučiti očekivati svaki potez čovjeka samo što je reakcija AI neusporedivo brža, radi sa daleko više inputa i senzora, te odrađuje sve te operacije istovremeno. I to će se desiti daleko prije nego očekujete – a da ne govorimo koliko će biti jeftiniji od obuke vojnog pilota i troškova njegovog treninga. Te koliko će manji (i jeftiniji i brojniji) moći biti takvi avioni.

    m

    @Miki – ovo gdje AI „odlučuje“ i račune neke „težinske faktore“ stradalih je potpuna izmišljotina novinara i humanista, ljudi koji ne razumiju tehnologiju. Stvar je potpuno banalna i ne zna AI ništa o tome niti se tako programira. Jednostavno – autonomno vozilo će u slučaju neminovnog sudara napraviti sve da maksimalno smanji energiju (brzinu) ostajući unutar prometnih pravila. Ukoliko i drugi sudionici ostanu unutar prometnih pravila šteta će biti najmanja (a ne da se izbjegava u suprotnu traku, u šumu ili preko pješačkog pa poginu još dodatne osobe).
    Ne zna AI tko je bakica, tko je dijete i tko će trebati psihološko savjetovanje, već samo prometna pravila pa nema ni psiholoskih dilema – to tako zamišljaju samo ljudi koji se ne bave tom tehnologijom.

    M

    Šta god pričali proizvođači AI za vozila, ako slušamo samo njih, reklo bi se da smo u 22. veku. Ali konačnu reč daju agencije za homologaciju, sertifikaciju i bezbednost u saobraćaju, kao i saobraćajni instituti. A oni kažu da su self-driving vozila level 5 još jako jako daleko.

    Problem ponašanja AI na vozilu u situacijama neizbežnog sudara, jeste jedan od glavnih pitanja oko kojih ne mogu da se usaglase. Žao mi je što ne mogu sada da pronađem tekst pisan od strane jednog od developera na AI za vozila, gde govori baš o tome. Veoma je lako napraviti AI koji vozi kako treba, kada je sve oko njega kako treba. Ali problem u saobraćaju jesu veoma česte situacije kada nije sve kako treba. U bezizlaznim situacijama, čovek reaguje instinktivno, ili bar „stisni kočnicu, zažmuri, pa šta bude“, bila ta reakcija dobra, loša ili još gora. Ali AI ne može tako, već i tada mora da računa šta je najmanje loše da uradi. Ako AI vozilu istrči pešak, on počinje da koči. Ako ne može da se zaustavi na vreme, da li da ga izbegava skretanjem u drugu traku?!? Uradiće to ako je linija isprekidana (ne čini prekršaj), ali neće ako je puna (čini prekršaj)?!? Bilo bi zaista bzvz. da to ne uradi, ako je druga traka prazna. A šta ako nije?!? Ovo nisu izmislili novinari ni humanisti, nego jeste pitanje o kojem morajui da dumaju AI developeri.

    Takva pitanja nisu bitna za AI koji nam se vrti kao asistent na mobilnom telefonu, ali jesu od velike važnosti za AI koji može nekoga da usmrti.

    Self-driving vozila ćemo prvo videti na mestima gde se mogu obezbediti rute samo za njih, gde neće biti nepredviđenih situacija. Ali to nije ni level 4, a kamo li 5.

    Cena takođe nije problem. Koga briga za cenu AI vozača, ako kamion od 200k€ može da radi 24/7. AI će prvo voziti skupa komercijalna vozila. Tu će se AI brusiti dok ne bude sve kako treba.

    Uostalom, googlajte sve o AI vozilima, ali mimo PR-a proizvođača tih vozila. Nije toliko ružičasto kao što tvrde AI developeri.

    m

    Stvar je sa „moralne“ strane mnogo banalnija tj, vec je zakonski uredjena prometnim pravilima. Da banaliziram do kraja riječ je o If (traka prazna) then (goto traka). Ukoliko se sudar moze izbjeći prestrojavanjem u slobodnu traku to ce napraviti. Ako nema slobodne trake ce zakočiti koliko moze. I tu prestaje „razmišljanje“ za AI. Uopće ne analizira je li ispred njega djevojčica a u susjednoj traci politicar – traka je zauzeta i neće ići tamo.
    To mi je posao i radio sam na prepoznavanju objekata sa kamere – najveći problem je u prepoznavanju. Vojni avioni vec danas nemaju tolike probleme jer nije pitanje cijene senzora. Sto se auta tiče velika barijera ce biti predjena kad lidar udje u masovnu proizvodnju i padne cijena. A desit ce se uskoro jednako kao sto je danas radar normalan u svakom novom autu a prije par godina je to bilo rezervirano za Sklasu.

    M

    U svakom slučaju, self driving vozila u slobodan saobraćaj i na javne puteve neće pustiti programeri i developeri, niti njihovi poslodavci ili proizvođači vozila, već agencije za homologaciju i sertifikaciju. A oni za sada uopšte nisu zadovoljni napretkom AI vozača.

    Tesla je jedini pustio neki „auto-drive“ na tržište, ali je on strogo ograničen na uvek spremnog vozača, i u gradu, svakih par desetina metara javlja upozorenje „drži ruke na volanu“. Ako ne uhvatite volan, Tesla se zaustavlja. A nije da je potrebno još malo programiranja pa da se i ta „sitnica“ prevaziđe. Za svaku nepravilnost koju uradi AI u Tesli, odgovoran je isljučivo vozač. Tako je definsano i ugovorom koji štiklirate kada sednete da vozite Teslu.

    Uglavnom, koga tema zanima, treba ispratiti informacije ne od Waimo-a ili Tesle, već od NHTSA, ETSC, ADAC i sličnih.

    Ovo je izuzetno vazan pravac razvoja, posto ako (kada?) USA dodje u posed AI-piloted aviona onda doktrina odbrane zasnovana na nanosenju „neprihvatljvih“ gubitaka napadacu vise ne pije vodu.

    Odgovori
    J

    AI je u svakom slučaju budućnost vojnog vazduhoplovstva. Biološka ograničenja ljudskog bića (od disanja, preko sposobnosti da izdrži gravitacionu silu, pa na dalje) su bespotreban limitirajući faktor u dizajnu novih letelica.

    Postoje određeni faktori koji su psihološke prirode, a koji će uticati da taj prelazak bude postepen. Npr. verovatno će u početku postojati sistem dvostrukih komandi, gde će pilot na zemlji moći u slučaju potrebe da preuzme letelicu. Vizuelna identifikacija pri nadzoru vazdušnog prostora će verovatno i dalje biti prepuštena pilotima u avionima.

    Ono što ljudi ne shvataju je da će promena „pilota“ (čoveka sa AI) uticati na promenu dizajna letelica, ali i na način upotrebe. Letelice će biti manje i jeftinije, a izvodiće savršeno sinhronizovana borbena dejstva u brojevima koji su nezamislivi.

    Odgovori

    Prilikom komentarisanja tekstova na portalu molimo vas da se držite isključivo vazduhoplovnih tema. Svako pominjanje politike, nacionalnih i drugih odrednica koje nemaju veze sa vazduhoplovstvom biće moderisano bez izuzetka.

    Svi komentari na portalu su predmoderisani, odobravanje bilo kog komentara bilo kog značenja ne odražava stav redakcije i redakcija se ne može smatrati odgovornom za njihov sadržaj, značenje ili eventualne posledice.

    Tango Six portal, osim gore navedenih opštih smernica, ne komentariše privatno niti javno svoju politiku moderisanja

    Ostavite odgovor

    Najnoviji komentari

    Miloš77 na: Vučić: Potrudiću se da nabavim još bespilotnih letelica iz još jedne problematične zemlje

    @Srbofil AL41F1 Ne slažem se sa vama ili jednostavno gledam na te stvari iz drugačije perspektive. Na vaše komentare imam sledeće da kažem. Prvo, nikakva saradnja niti transfer tehnologije nije potreban niti ja o tome govirim kad su turske bpl u pitanju. Obična kupovina i to je to. To upravo radimo sa Ko inezima i…

    19. Oct 2020.Pogledaj
    19. Oct 2020.Pogledaj
    19. Oct 2020.Pogledaj

    Brad na: Vučić: Potrudiću se da nabavim još bespilotnih letelica iz još jedne problematične zemlje

    http://imgur.com/gallery/1wjcS8B Ako se ova predvidjanja ispune hocemo. Izvini nisam mislio na najbolji rast vec medju najboljima, prvih 3-4, kad uporedis sa padom populacije sigurno jos blize.

    19. Oct 2020.Pogledaj

    Send this to a friend