La digitalizzazione non può essere fermata
La digitalizzazione delle città sta solo guadagnando slancio. Nessuno si sorprende più
È molto conveniente:per salire in metropolitana basta guardare la telecamera, non è necessario tirare fuori il portafoglio, lo smartphone o la carta di credito. Ma gli scettici sulle nuove tecnologie destano preoccupazione. Ritengono che sia molto pericoloso affidare la verifica e l'analisi dei dati biometrici all'intelligenza artificiale e a un fornitore di terze parti. Non si sa in quali mani finiranno e come possano essere utilizzati contro lo stesso proprietario, all'improvviso qualcuno prende un prestito sotto le spoglie di un'altra persona o commette un reato utilizzando dati biometrici. Gli autori si spingono ancora oltre e avvertono di guai ancora più grandi: e se l'IA si alza e inizia a dare la caccia alle persone, rintracciandole sulla retina scansionata in metropolitana. Ma gli esperti notano che la minaccia dell'intelligenza artificiale nella coscienza di massa è molto esagerata.
Una rivolta delle macchine impossibile
"Intelligence" nel termine AI - marketingesagerazione. Non ci sono ancora criteri matematicamente chiari per ciò che è considerata intelligenza, ma la maggior parte dei biologi e dei filosofi concorda sul fatto che l'intelligenza è la capacità di risolvere con successo problemi non banali. A un livello superiore, puoi impostare in modo indipendente compiti che non hai mai affrontato prima e risolverli. Nessun sistema informatico nel prossimo futuro sarà in grado di farlo. Nessuno ha mai fissato un obiettivo per creare la cosiddetta IA forte (IA forte), perché il potenziale effetto economico di tale sviluppo è inferiore ai fondi necessari per esso.
Già oggi l'IA è in grado di riconoscere i volti, alla ricerca di tratti caratteristici
Oggi, l'IA è di fatto intesa come diversaimplementazione di sistemi di apprendimento automatico. Sono in grado di trovare modelli tra i dati e riconoscere i modelli. Ad esempio, un bambino di tre anni distingue con sicurezza un gatto da un cane in una foto. La rete neurale otterrà lo stesso risultato quando verrà "alimentata" con diverse decine di migliaia di immagini, alcune delle quali saranno correttamente firmate "gatto" e altre "cane". Già oggi, l'IA è in grado di riconoscere i volti cercando i tratti caratteristici e lo fa con una precisione del 96-98%: tali risultati possono essere raggiunti anche se le persone indossano maschere mediche standard.
Fiducia, ma a chi?
Cosa succede dopo l'autoidentifica una persona? Dipende da coloro che hanno programmato il sistema e assegnato compiti a specialisti IT. Puoi utilizzare l'associazione della persona identificata alla banca dati e aprire il tornello della metropolitana davanti a lui, detraendo dal suo conto l'importo per il passaggio. Puoi correlare i suoi dati biometrici con un'altra base - e, dopo aver posto la domanda "Vuoi davvero prendere questo prestito?" con voce sintetizzata, attendere la risposta "Sì" e trasferire l'importo concordato sul suo conto. In ogni caso, le decisioni successive al riconoscimento facciale non vengono prese da sole dall'IA, ma dipendono da algoritmi implementati da programmatori viventi.
Il sistema cinese di "socialcredito” è solo un enorme database (più precisamente, diversi database sparsi), in cui a ciascun cittadino registrato, azienda o ente statale viene assegnato un punteggio condizionale. Il comportamento "buono" si esprime nella crescita di questo punteggio, "cattivo" - nel suo declino.
Un tale sistema può funzionare automaticamente:riconosce il volto di una persona nel torrente e subito gli permette o vieta di compiere alcune azioni: ad esempio richiedere un prestito, acquistare un biglietto aereo. Ma le regole stesse con cui la macchina prende questa o quella decisione sono determinate dalle persone. Sistemi simili su scala ridotta operano in molte società, non necessariamente cinesi, e le loro reazioni alla stessa azione spesso differiscono notevolmente a causa dei diversi approcci degli sviluppatori.
La biometria basata sull'intelligenza artificiale di per sé non è buona enon male. Tecnicamente, non c'è differenza tra i cataloghi su larga scala dell'era pre-computer (nel 1944, l'indice delle carte dell'FBI conteneva 23 milioni di carte) ei database biometrici di oggi. Un computer trova le informazioni necessarie incomparabilmente più velocemente di una persona: ecco perché il riconoscimento facciale istantaneo in mezzo alla folla sconvolge la persona media. Ma questo è solo un effetto psicologico, e le reali conseguenze delle azioni del sistema digitale sono determinate da come le persone che vi hanno accesso tratteranno i dati da esso ricevuti.
Tuttavia, non c'è motivo di temere il totalesostituzione di una persona vivente con il suo "gemello digitale" - lo stesso record in un database di computer. Una cosa è quando qualcuno con un basso livello di credito sociale brulica nello scaffale sul retro del negozio: l'algoritmo per monitorare il comportamento delle persone nella sala di negoziazione, dopo aver ricevuto un segnale da una videocamera con riconoscimento delle immagini, corrisponderà a quello del visitatore confrontarsi con la base di polizia - ed emettere una raccomandazione alle guardie di avvicinarsi alla persona sospetta. Ma è tutta un'altra cosa quando il credito sociale di una persona si azzera improvvisamente: a causa di un errore del computer o a causa di azioni dannose di qualcuno.
Le tecnologie di intelligenza artificiale continueranno a svilupparsi: i tentativi di fermare il progresso non hanno senso
Gli sviluppatori di tutto il mondo vogliono creare un affidabilee IA verificabile, le cui “mindset” logiche sono esplicitamente registrate nel processo decisionale e sono disponibili per la verifica da parte di un operatore umano. La società ha iniziato a formare criteri uniformi per le azioni etiche dell'intelligenza artificiale: possiamo citare il codice etico russo dell'IA o un disegno di legge dell'Unione Europea simile nello spirito. Ridurranno la probabilità di errori o intenti dannosi durante la gestione dei "gemelli digitali".
Le tecnologie di intelligenza artificiale continuerannosviluppare: i tentativi di fermare il progresso non hanno senso. La società dovrebbe solo fare in modo che strumenti digitali convenienti e utili vengano utilizzati per il bene e diventino un mezzo non di controllo algoritmico totale, ma di aumentare il comfort e la sicurezza.
Leggi di più
Il "quinto elemento" esiste: un nuovo esperimento confermerà che l'informazione è materiale
Suoni inquietanti e creature misteriose: i ritrovamenti più strani nella Fossa delle Marianne
Guarda la migliore immagine del Sole: è composta da 83 milioni di pixel