Originally published at: https://korben.info/risques-menacent-lhumanite.html
La chaine AsapSCIENCE a mis en ligne une nouvelle vidéo qui passe en revue les menaces pesant sur l’Humanité. Et toutes ne sont pas forcément celles auxquelles on pense en premier… A ne pas regardé si vous êtes flippé de la life 
Source
Absolument pas d’accord avec cette vidéo.
L’IA équivalent à l’humain en 2075??? Sérieusement??? On disant déjà en 1970 que dans ça serait fait sous 10 ans maximum (il suffit de regarder les news de l’époque). Quels progrès fondamentaux depuis? Aucun! La seule “nouveauté” est la puissance de calcul et les données qui maintenant sont disponibles et font que les anciennes méthodes qui ne marchaient pas avant, marche maintenant. Le deep learning n’est pas nouveau il date de … 1984. On est à des années lumières d’avoir quoique ce soit qui ressemble un tant soit peu à de l’intelligence …
Et même si l’IA devient aussi “intelligente” que l’humain un jour, quel risque? Oh mon dieu ils vont être aussi intelligent donc ils vont nous détruire. Ce raisonnement marche avec n’importe quel peuple humain dirigé par un dictateur/président “débile” qui peut décider d’appuyer sur le bouton rouge … Donc fondamentalement IA ou pas IA ça ne change absolument rien …
Flippé de la Life, quand une locution des années 80 percute un anglicisme des années 2015, de jolies étincelles^^
C’est pas l’IA qui s’améliore ceux sont les humains dont les facultés cognitives régressent. L’IA de marketing est déjà supérieure aux consommateurs. Il faut arrêter de penser la recherche en IA comme si son objectif était de créer une IA équivalente à l’intelligence humaine. Combien de personnes sont réellement intelligentes au point que leur comportement ne pourraient pas être complètement gérés par de l’IA (transport, alimentation, divertissement, etc.)? Ce qui rend l’humain complexe c’est ce qui se crée vis à vis de l’autre, et l’autre est de plus en plus souvent un ordinateur.
Je ne faisais que répondre à la vidéo qui classe l’IA comme la plus forte menace.
Ah les facultés cognitives régressent, tu as des études qui disent ça? (Et la baisse du niveau orthographique que tu illustres parfaitement ne présage en rien de la baisse de facultés cognitives)
Pas besoin d’IA pour faire du marketing, les biais cognitifs ont été étudiés bien avant qu’existe un quelconque ordinateur …
L’IA est incapable de reproduire un quelconque comportement même “basique”, on ne sait pas faire un contrôle robotique potable (adaptatif et appris j’entends). Rien que prendre un objet (dans un environnement non contraint) est largement hors de portée de l’IA.
“(Et la baisse du niveau orthographique que tu illustres parfaitement ne présage en rien de la baisse de facultés cognitives)”
Si, elle présage de la baisse des facultés cognitives parce que tu crois que juste parce que j’écris en Français tu as à faire à un Français hors je ne le suis pas et je fais quand même beaucoup moins de fautes que dans les articles même de ce blog! Et toi aussi ton message est plein de fautes:
“on en sait pas faire un contrôle robotique potable”
tu peut expliquer à un non Français ce que ça veut dire, parce que moi pas comprendre?
“Rien que prendre un objet (dans un environnement non contraint) est largement hors de portée de l’IA.”
Tu confirmes ce que je dit en croyant le réfuter. Nos comportements sont de plus en contraints justement c’est ce qui fait progresser l’IA le plus vite, qui cherche à fabriquer une IA dans un environnent non contraint?
“Pas besoin d’IA pour faire du marketing, les biais cognitifs ont été étudiés bien avant qu’existe un quelconque ordinateur …”
Pas besoin d’IA pour faire du marketing, vous êtes au courant de ce qui ce passe autour de vous?
"elle présage de la baisse des facultés cognitives parce que tu crois que juste parce que j’écris en Français tu as à faire à un Français hors je ne le suis pas et je fais quand même beaucoup moins de fautes que dans les articles même de ce blog!"
Quel rapport entre écriture, capacité cognitive et le fait que tu sois d’origine étrangère?
"tu peut expliquer à un non Français ce que ça veut dire, parce que moi pas comprendre?"
Je dis juste que l’IA sait faire maximum 1% de ce que sait fait un humain. En gros en terme de comparaison, en terme de contrôle de son corps un enfant de 6 mois est plus compétent que le meilleur robot actuel et en terme de capacité cognitive un enfant de 2 ans est meilleur que la meilleure IA.
"qui cherche à fabriquer une IA dans un environnent non contraint?"
Tout le monde! Notre environnement n’est pas contraint, c’est bien pour cela qu’il n’y a (encore?) aucun robot dans la rue (et pourtant c’est le rêve de beaucoup de gens). Les seuls robots qui existent sont dans des environnements contrôlés. Dès qu’ils sortent du labo ou de l’entreprise ils ne sont plus capables de quoi que soit.
"Pas besoin d’IA pour faire du marketing, vous êtes au courant de ce qui ce passe autour de vous?"
Oui je suis très bien informé. Je ne dis pas que l’IA (et encore le mot est très galvaudé) n’est pas capable de manipulation, je dis que la manipulation existait bien avant l’IA. L’IA sert juste à la rendre (un peu) plus efficace et à l’automatiser.
Epouvantails et bouffonneries!
Epouvantails agités d’évenements hautement improbables à l’échelle de la vie humaine…
Bouffonneries aussi! Seulement les bouffons se permettent d’asséner au bon peuple les vérités qu’il refuse habituellement d’entendre…
Celle de l’IA? Avec la date de la naissance de l’Ange Exterminateur?
Pas sûr que ça se passe comme ça… mais autrement, ça sera pas mieux…
Terminator, Golem ou Frankenstein? un humanoïde conscient et réfléchissant incarné dans un ‘truc’ mobile impressionnant…
Un système virtuel dit ‘conscient’ qui ‘réfléchit’ et ‘décide’ pour le bien de l’Univers…
Pour une vraie décision indépendante de ses maîtres à 2 pattes, ça suppose qu’on lui ait attribué une certaine organisation interne qui lui permet l’auto-inspection avec comportements ‘raisonnés’ dans une logique de type humain. Qui va avoir intérêt à construire une telle machine?
Voui, le Grand Ordinateur qui programme l’élimination des intelligences inférieures mangeuses de nouilles, plutôt de la SF… même si moi, vieux bonhomme acariâtre, ça me plairait d’en être le parrain…
Seulement…
pour bousiller un système hautement organisé et ‘vivant’ il y a 2 méthodes: l’agression directe (la bombe atomique…) …ou la prise de contrôle suivie d’ordres suicidaires…
Maintenant les ‘systèmes dits ‘intelligents’’ ont de + en + le contrôle de notre monde.
Contrôle des objets en temps réel: réseau électrique, automatismes industriels. Facile de les faire plonger. micro ex stuxnet et les centrifugeuses iraniennes…
Contrôle des hommes par l’information: SGBD, applicatifs de phynance, impôts, éducation, administration, commerce et échanges etc
Comportement, décisions confiés à des systèmes dits ‘intelligents’. Critères de décision ? Programmés par les bipèdes? ça n’empêche pas les comportements imprévus (ou mal programmés!!!)
Auto-construits par apprentissage, par les systèmes: alors l’explication des règles, la formalisation en langage clair de ces comportements nous demeurent inaccessibles…
Comme la tendance est à l’interconnexion générale, à la ‘communication’ … si l’état ‘normal’ est rompu ici, il y aura diffusion quasi instantanée des états, des données, consignes et comportements très loin, réactions en boucle fermée et possiblement auto-accélération irréversible des perturbations…
Quand? Comment? Jamais (miraculeusement…) Petites catastrophes locales seulement? Mystère…
Dans un autre ordre d’idées, il y a bel et bien remplacement de l’intelligence et habileté humaine par des systèmes plus performants, même si leur ‘intelligence’ vole bien bas: ça c’est déjà fait ou imminent: la CAO/FAO et les machines et imprimantes à commande numérique, la conduite des camions…
Peu de risque de défaillance généralisée avec destruction des humains… mais impact majeur sur la société (emploi, justification du travail, du rôle des humains…)