AI, AI, AI

[..] Already, mathematical models are being used to help determine who makes parole, who’s approved for a loan, and who gets hired for a job. If you could get access to these mathematical models, it would be possible to understand their reasoning. But banks, the military, employers, and others are now turning their attention to more complex machine-learning approaches that could make automated decision-making altogether inscrutable. [..]

[..] The U.S. military is pouring billions into projects that will use machine learning to pilot vehicles and aircraft, identify targets, and help analysts sift through huge piles of intelligence data. Here more than anywhere else, even more than in medicine, there is little room for algorithmic mystery, and the Department of Defense has identified explainability as a key stumbling block.[..]

avots

[..] “AI ir interesanta un izaicinoša tēma, jo ar mākslīgā intelekta palīdzību varam atrisināt daudzas problēmas, vienlaikus pastāv arī bīstamā robeža, cik tālu var iet, uzticot darbus AI,” [..]

Swedbank” grupas digitālās stratēģijas vadītājs un valdes loceklis Latvijā Ģirts Bērziņš

avots

[..] Man liekas, ka mākslīgais intelekts ar savu gribu ir un paliks tikai fantastika. Risks, ka mākslīgais intelekts pārņems pasauli un sāks pār to valdīt, ir nereāls. Katrā ziņā es tam neticu, jo zinu, kā mākslīgā intelekta programmas funkcionē. Mākslīgā intelekta programmas tiešām daudz ko spēj, taču tās to spēj, sekojot instrukcijām. Tās nespēj pašas izdomāt, kas būtu jādara. Jā, tās var ieprogrammēt darīt ļoti daudzas lietas, bet tām nav savas gribas. Robotu sacelšanās mums nedraud vēl ļoti ilgi. [..]

Latvijas Universitātes profesors  Andris Ambainis

avots

vara bungas: Varetu pasmīnēt par LV zinātnieku un pētnieku piesardzību  vienā gadījumā un labticīgu paļaušanos otrā.  Bet pa to laiku vienā dīķa krastā militāros AI pētījumos tiek pludināti miljardi dolāru, kas agri val vēlu (drīzāk agri) dos rezultātu. Domāju nav jāskaidro, ka AI bāzētu militāro tehnoloģiju nonākšana vienās rokās būs līdzvērtīga kodolieroču priekšrocības saglabāšanai vienas valsts arsenālā. Pārējie tad būs sīki pigmeji ar savām smieklīgām haubicēm, tankiem un pārējiem iskanderiem. Man godīgi sakot vienalga kā AI tiks vai netiks militāri izmantots, mani uztrauc, ka dažas valstis var uzskatīt šādus uz AI spējām bāzetus ieročus vai militārās tehnoloģijas par game changer (kādas tās arī ir) viņu ierastai un ērtai pasaules iekārtai. Viņu rīcība? Mierīgi noskatītsies kā kodolpotenciāls, ar ko dižojās 70+ gadus, pārvēršas malkas noliktavā? Darīt kaut ko lietas labā?  Ko tieši? Politologi, pietiek apcerēt notikušo, padomājiet mazliet uz priekšu! Es saku, ka  atpalīcēji AI pētījumu jomā uzskatīs nākamo desmitgadi par kārtejo “iespēju logu”, kas aizveras. Viens no risinājumiem kā aizlikt progresam kāju priekšā  ir  palīdzēt notikt   globālai finanšu krīzei, vai ļoti lielam  karam ar konvenciāliem paņēmieniem  vai reģionālam karam ar nekonvenciāliem  paņēmieniem ieskaitot MII (NBC). Kiberkarš būs jauka piedeva abām opcijām.  Tā var vinnēt laiku saviem pētījumiem vai svešu pētījumu nozagšanai, kā jau tas ne reizi vien vēsturē ir bijis. Kas mums no tā (AI)? Pilnīgi nekas, izņemot to, ka juku laikos spēkam ir nozīme un mūsu fīreru deklarēto spēju  “atvairīt,  aizstāvēt un nodrošināt” var nākties  pārbaudīt praksē, ko viņi diez vai plāno. Bet mēs taču esam tālredzīgāki par fīreriem  un par AI 😉

vēl (2015.gads)

Advertisements

11 responses to “AI, AI, AI

  1. iebildīšu Ambaiņa k-gam. ja āmurs man uzkrīt uz kājas, tad tā nav āmura griba. ja esmu noprogrammējis savu mājas robotu izšaut smadzenes visiem sarkanās kepkās, bet aizmāršīgi izbrienu pagalmā sarkanās apenēs…, tad tā bija mana griba un mani rīkojumi.

    automatizācija notiek pa vertikāli uz augšu. un, laika taupīšanas nolūkos, arvien vairāk lēmumu arvien augstākā līmenī ļauj pieņemt datoriem. kas gan slikts tur var notikt? 🙂

    tuvākajā desmitgadē būs robotu-automobiļu revolūcija. salīdzināma ar mobilo telefonu revolūciju. lasi – kompis ir iemācīts redzēt un prognozēt pasauli veidā kā to dara cilvēki un dzīvnieki. tuvojas laiks kad kājnieku nodaļa izskatīsies kā operators + 7 paliela suņa lieluma roboti. ar laiku operatoru no tās grupas izmetīs kā testa šoferi no googlemobiļa.

    • Mūsu (LV) vieta šāja bildē?

      • arī zemessargs

        Valstiskās bildes nav. Tāpat kā jebkurā citā jomā mums uz priekšu neprognozē, jo:
        1. Uzskata, ka mēs neko nevaram (no mums vēsturiski maz kas atkarīgs bijis)
        2. Grābj te un tagad, nākotne ir pārāk neskaidra (liktenis mums pasvieda tik daudzas izmaiņas tik īsā periodā, ka grūti prognozēt)
        3. Tic, ka pratīs pielāgoties (jo līdz šim tas strādāja).
        No zinātnes un industrijas puses mums ir mūsu valsts lielumam diezgan izstrāžu: bezpilotnieki, kvantu skaitļošanas pētījumi, Baltijā lielākais % telekomunikāciju, sakaru un IT pakalpojumiem. Vietas, kur vajag pievilkt: zinātnes finansējums šajās jomā, STEM izglītība.

  2. Ko ņemies? Mums taču ir “atturēšanās filozofija” (c) 😁

  3. Ierakumu_žurka

    Raksts labs un izgaismo būtiskus jautājumus, tikai, manuprāt, ar pārlieku panisku nokrāsu.
    Jau pašā rakstā minēts, ka tiek strādāts pie algoritmu caurskatāmības un mašīnu lēmumu pieņemšanas procesu izskaidrošanas (kaut vai mašīnai parādot cilvēkam, kas bildē, tekstā vai citādā datu kopumā saistījis tās uzmanību).
    Šī problēma – kāpēc mašīna darīja to, ko darīja – reāli ir sekas tam, ka tehnoloģiju, kam tikai “nāk zobi” jau grib bāzt kur vien pagadās – izmantojot jau daudzā ziņā novecojušus algoritmus (daļa no kuriem vēl ir saglabājušie no 70-iem gadiem), kas pārsvarā balstīti uz “black-box” pieeju.
    Bet celt paniku par to, ka “mēs nesaprotam mašīnas datu apstrādes modeļus un lēmumu pieņemšanas procesu” ir diezgan debīli – kurš cits, ja ne cilvēki tos modeļus ir izstrādājuši? Ok, tagadējā mašīnmācīšanās tehnoloģiju paaudze darbojās pēc black-box principa, jo tā kādreiz bija vieglāk izveidot neironu tīklus ar n-tajiem slāņiem, kur katrs neirons veic visnotaļ abstraktas un sarežģītas matemātiskas darbības. Nu un? Augs dzelžu jauda, attīstīsies algoritmi un sistēmu arhitektūra un nākamā paaudze jau spēs, ja ne izskaidrot, tad vismaz parādīt loģikas ķēdīti.
    Bet IMHO, visas šīs likstas rodas galvenokārt dēļ izplatītākā mašīnmācīšanās modeļa – iebaro sistēmai lielu daudzumu kaut kādu datu (piem, attēlu ar kaķiem) un pasaki sistēmai, kas tas tāds ir (kaķu bildes), tālāk sistēma pati meklē sakarības, līdzības un patternus ievadītajā datu kopumā. Pēc tam, kad sistēma ir “sagremojusi” iebarotos datus, var mēģināt tai dot jaunus datus, nepasakot, kas tas ir (piem., suņa bilde), sistēma apstrādātu šo jauno bildi, pielāgotu tai sevis iepriekš atrastās sakarības, līdzības un noteikumus (kas kaķi padara par kaķi?), lai noteiktu vai tas ir kaķis vai nav. Pēc jauno datu apstrādes, no tiem izvilktā informācija arī saglabajas sistēmā , šajā brīdī sistēmā veidojas vēl jauni noteikumi un modificējas esošie (kas atšķir suni, no kaķa). Bet te arī parādās problēmas šai pieejai – pirmkārt, bez ārēja ievada, sistēma nekad nesapratīs, ka suns ir suns, tā sapratīs tikai, ka tas nav kaķis (ok, es stipri vienkāršoju, bet būtība ir tāda, ka sistēma spēj darboties tikai no ārienes – programmētāja- definētu datu jomā), “mācīšanās” šādās sistēmās ir diezgan iluzora. Otrkārt, mašīnas secinājumu un “mācīšanās process” ir savā būtībā empīrisks – tas ir tā, kā matemātikas stundā iedotu nevis mainīgos, vienādojumu un prasītu atrast rezultātu, bet gan iedotu mainīgos un rezultātu un prasītu atrast vienādojumu. Sākumā vienādojums būtu pavisam triviāls, bet nākot jauniem mainīgajiem un rezultātam saglabājoties nemainīgam, tas ļoti strauji var kļūt sarežģīts un iekļaut lērumu dažādu noteikumu un izņēmumu., bet tas vienmēr tik un tā būtu balstīts uz iepriekšējo vienādojumu, pielāgojot to pēc vajadzības. Līdz ar to rodas iespējamība situācijām, kad vēlamo sanāk uzdot par esošo – parādot mūsu sistēmai mopša bildi ir diezgan liela varbūtība, ka tas tiks noturēts par kaķi. Un te arī slēpjas šādas sistēmas fundamentālākā problēma – tā iegūst precizitāti tikai ar laiku un apstrādāto datu apjomu, sistēma spēj mācīties un analizēt situācijas tikai jau iepriekš analizēto situāciju kontekstā – tā nav spējīga pati “domāt” un tikt galā ar nestandarta situācijām vai paredzēt iespējamās situācijas un savu reakciju uz tām.

    • Jums zinātniekiem viss labāk redzams, bet ko darīt mietpilsoņiem, kad viņi te lasa jūsu cunftes brāļu parakstītu atklāto vēstuli (btw lasīji?), tad TV redz, ka forumā Davosā naudas maisi runā to pašu, kas šajā rakstā utt? Tava eseja ir saistīta ar mašīnmācīšanās problēmu “šeit un tagad”, bet kādas ir tavas prognozes par AI praktsiko pielietojumu? Cik ātri tehnoloģija kļūs derīga ne tikai kaķu zīmēšanai, bet piem. neatlaužamu kodu atlaušanai vai iznīcinātāju pilotēšanai? Kādas ir militārās izmantošanas perspektīvas? Vai katra attīstīta kodolvaslts varēs lepoties ar savu veiksmīgu projektu šajā jomā un neviena nebūs atpalikusi? Vai AI tehnoloģijas pielietojums nodrošinās izšķirošas priekšrocības kara gadījmā ? Un mums vienalaga kā tur melnā kaste saslēdz neironus, mūs interesē vai uz tās var uzcept olas.

      • arī zemessargs

        Protams, attīstītāks AI kas tiks izmantots autonomās sistēmās būs būtisks + tai karojošai pusei, kurai tas AI ir labāks. Piem. 10x gudrāki droni būs efektīvāki par 100 ne tik gudriem. Angļu ložmetējs pret nēģeru baru ar šķēpiem.

      • Manuprāt, AI iespējamais pielietojums ir tik plašs, ka tas ir neprognozējams. To var izmantot gan lai ražotu tankus, kas paši var domāt, gan troļļoutu vai ķertu troļļus internetā, gan vēl 1000 veidos. Es domāju, ka to pielietojot var rasties tādi ieroči, kurus savādāk būtu neiespējami menedžēt – piemēram bišu spiets, kas kur bite nes kādu paralizējošu gāzi (tā ir mana fantāzija, bet ideja – AI ļauj bitēm darboties reizē koordinēti un katrai par sevi, kas nebūtu iespējams pie manuālas vadības)

          • Es jau arī nesaku ka tā ir fantāzija. Bet ZS mācībās pagaidām tādas lietas nav nācies manīt

            • AI, protams, ka neredzēsim nekad. Varbūt arī ka nevajag. Jāmeklē citas izcilības tēmas. Iespējams, virzienā par to kā likt AI uzkārties… esmu drošs, ka šajā jomā būs ko pētīt. Bet swarmings, kā pilsētas taktika pat ļoti lietojama ZS jau tagad. Black hawk down atceries? Somālieši varbūt paši nezinot lietoja Dispersed swarm taktiku, t.i. gandrīz nekoordinētus mazu grupu uzbrukumus vienam kopīgam mērķim. Rietumnieku stila izlūkošana pret šādu taktiku ir bezspēcīga. Neko nevar paredzēt, neko nevar izskaitļot. Tomēr spieta taktikai jābūt pārdomātai, spēkiem izkaisītiem pilsētā un gataviem lietošanai (bruņotiem), turklāt tādiem, kas “sēž uz žoga” gaida izdevību un improvizē pēc situācijas, ko novēro savā kvartālā. Bez zināma “I” apjoma neiztikt.

Komentēt

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Mainīt )

Twitter picture

You are commenting using your Twitter account. Log Out / Mainīt )

Facebook photo

You are commenting using your Facebook account. Log Out / Mainīt )

Google+ photo

You are commenting using your Google+ account. Log Out / Mainīt )

Connecting to %s