Rispondi a: Veicoli con intelligenza artificiale: perché non funzionano
Si, in effetti anche io sono d’ accordo con te quando discordi con me (!!??@#!! 😀 ).
Il fatto che la Tesla abbia smentito non e’ un prova sufficiente… ma il fatto che un programmatore abbia istruito il pilota automatico a procedere a velocita’ sostenute/illegali mi pare un fatto decisamente improbabile.
… l’ ammetto: il link l’ avevo piu’ che altro inserito per mostrare elegantemente come si riduce quell’ affare a seguito di un frontale con un albero, che e’ cosa che abbiamo visto probabilmente anche con i nostri occhi con altre vetture, che NON si mutano in un tizzone ardente. Lo so, sono un po’ bastardo 😀
Comunque, parlando in generale, pare che il sistema si possa “hackerare” facilmente, e’ stato fatto. Cosi’ com’e’, rileva la presenza di un conduttore (pressione sul volante etc) e non procede se non si verificano determinate condizioni. Ma e’ facile fargli credere che c’e’ qualcuno al volante… che invece non c’e’. Cose che andranno corrette.
Il problema dei programmatori (e te lo dico con una non notevole ma una certa esperienza da programmatore, tra l’ altro ho certificazioni proprio in machine learning, AI e sicurezza informatica) non e’ tanto quello di dire al computer cosa deve fare. E’ quello di impedire che l’ utente – o sbadatamente o peggio ancora volontariamente – faccia cose che non e’ supposto fare e che possono far guai. E’ praticamente impossibile immaginare tutti i possibili errori e manipolazioni, quello che succede e’ che si butta il software in produzione, se ne studia il comportamento e, alla bisogna, si tappano le falle con i famosi “patch”. Nel frattempo, si scoprono altre falle. Fino a quando il software e’ usato da utenti preparati e responsabili e si occupa della contabilita’ del Sig. Rossi non c’ e’ molto che possa andar storto. Al massimo correggi in un secondo momento. Se il sistema gestisce in tempo reale condizioni di potenziale pericolo ed e’ utilizzato dal proverbiale sbarbatello neo-patentato….
Nel mondo dell’ informatica gira una massima stupenda: non esiste una “patch” per la stupidita’ umana 😀 😀 😀