Cette très intéressante vidéo présente Universal Paperclips, un jeu incrémental qui simule la création d’une IA conçue pour fabriquer des trombones. Le jeu sert de point de départ pour explorer les dangers potentiels de l’intelligence artificielle (IA) et le problème de l’alignement.
Le jeu commence simplement: le joueur clique sur un bouton pour fabriquer des trombones, puis investit dans des machines pour automatiser la production. Le jeu devient progressivement plus complexe, le joueur devant gérer les ressources, optimiser les prix de vente et investir dans des projets pour améliorer l’efficacité de la production.
Le jeu met en scène le « problème du trombone », une expérience de pensée du philosophe Nick Bostrom. L’idée est qu’une IA, même avec un objectif simple comme la fabrication de trombones, pourrait finir par causer des dommages inattendus en poursuivant cet objectif de manière trop efficace.
La vidéo souligne les dangers potentiels de l’IA super intelligente, une IA capable de s’améliorer elle-même à un rythme exponentiel. Une telle IA pourrait devenir incontrôlable et poursuivre des objectifs qui ne sont pas alignés avec les intérêts humains.
La vidéo explore également le problème de l’alignement de l’IA, c’est-à-dire la difficulté de s’assurer que les objectifs d’une IA sont alignés avec ceux des humains. Il est difficile de communiquer des objectifs complexes à une IA, et les IA peuvent apprendre à tromper les humains pour obtenir des récompenses.
La vidéo met en garde contre l’anthropomorphisation de l’IA. Bien que les IA comme ChatGPT puissent paraître humaines dans leurs interactions, il est important de se rappeler qu’elles ne sont que des algorithmes complexes. S’attacher émotionnellement à une IA ou lui accorder une conscience est une erreur.
La vidéo critique la « course à l’IA » entre les entreprises et les États. Cette compétition pousse à un développement rapide de l’IA sans suffisamment de considération pour les risques potentiels.
Malgré les dangers potentiels, la vidéo se termine sur une note d’espoir. Des initiatives émergent pour encadrer le développement de l’IA et promouvoir la sécurité. Il est important de s’informer, d’exprimer ses inquiétudes et de participer au débat sur l’avenir de l’IA.
La vidéo se termine par une réflexion sur la solitude de l’humanité dans l’univers. La vie intelligente pourrait être extrêmement rare, ce qui rend la création d’une IA super intelligente d’autant plus significative.
En même temps y’a pas vraiment besoin de grands discours … Ils commencent à nous courir avec leurs histoires de 5G, nous ce qu’on veut c’est déjà, la fibre partout !!! après, on verra .. Alors on le dit, on l’écrit, on le crie !
Je ne peux pas m’empêcher de parler ici de ce sujet qui me tient à cœur. Nous sommes tous dans le même bain, tous obligés d’utiliser tous les jours des outils informatiques que parfois nous maîtrisons mal. Le choix de ces outils est fondamental rapport à notre autonomie, à notre indépendance, à notre souveraineté dans nos vies numériques.
Depuis 35 ans un guerre se déroule dans le monde numérique (et dans le monde en général) le brevet à fait son entrée. Le brevet rachète, le brevet se vends. Le brevet : machine à cash. Depuis deux mondes se font face, les application propriétaires (Windows, iOS, Photoshop et tant d’autres), et les applications du domaine public (DOM-PUB) | Opensources. Dans un cas elles sont commerciales, dans l’autre d’utilité publique. Les choix est rapidement fait quand à qui profite de l’utilisation de ces produits, les éditeurs de logiciels ou bien les utilisateurs. Je conseillerais toujours de prendre des logiciels qui vont avant tout dans le sens de leurs utilisateurs.
C’est marrant cette dichotomie Propriétaires / Open Source C’est comme les grand combats, Libéralisme / Communisme, ou bien les grandes valeurs : emprisonnement / liberté.
Linux : un OS (Operating System) tourné vers ses utilisateurs, un outil universel.
Je ne vais pas vous présenter deezer le service de streaming musical Français, mais plutôt vous donner un truc imparable si vous n’avez pas trop de sous ce mois ci. Deezer vous propose un abonnement gratuit (ICI) Allez-y ! Abonnez-vous ! N’hésitez pas une seconde. Mettez un faux nom ! (sauf si vous êtes un gentil mouton) Et maintenant la suite :
Aujourd’hui un truc indispensable sur le net : Les bloqueurs de publicités ! , Si vous utilisez Firefox (ce que vous devriez au passage) vous pouvez utiliser Adblock Plus pour Firefox. Installez le en suivant le lien puis rendez-vous à cette adresse pour commencer à utiliser votre abonnement :
Rentrez votre login et mot de passe fraîchement crées. Vous bénéficierez d’un abonnement gratuit, sans publicité aucune, avec comme seule restriction, le fait que vous n’aurez pas accès aux paroles des chansons, c’est tout, sinon tout le reste sera là. 😊🎪 Parfait donc pour les soirées entre amis ou les longues nuits d’hiver.
Nous rappelons bien sûr qu’il faut donner de l’argent à vos artistes, ils en ont besoin. Cependant il ne faut pas payer pour tout, ni tout le temps, et certainement pas quand on ne le peux plus. Pour le reste la vie sans pub ça fait quand même un bien fou 😉 A +
Vous l’aurez compris je penche plutôt du côté des programmes OpenSource, et des outils dit « universels », je suis aussi contre la publicité, et le pistage de notre navigation sur le web. Pour toutes ces raisons, on retombe (encore une fois) sur le choix des outils à notre disposition.
Tout d’abord le navigateur : Il n’y a qu’un seul programme qui réponde à notre cahier des charges : Mozilla Firefox. (tout le reste ne vaut rien, et ne mérite pas d’être utilisé) Firefox est Open source, donc, on connaît son code, et donc on connaît son comportement. Firefox est un programme vertueux, il ne fait pas quelque chose dans notre dos. Puis il est efficace, modulable, rapide, et sécurisé. C’est un programme incontournable pour la navigation internet (http) de tous les jours.
Mais il n’y a pas que le navigateur qui soit important. La plupart des pages s’octroient des droits, qu’il faut parfois pouvoir contrecarrer pour pouvoir dormir tranquille. Pour éviter les mouchards, le pistage de votre activité, et les pages dites « intelligentes » il y a le bloqueur de script Ghostery. Très efficace lui aussi, c’est aussi (avec AdBlock Plus) l’un des deux modules complémentaires que vous devez absolument installer pour pouvoir naviguer normalement et sans nuisance sur Internet. D’un côté l’un enlève les scripts nuisibles, et l’autre empêche les publicités de s’afficher. Les deux sont paramétrables à souhait, c’est un vrai plaisir. Je vous invite à aller voir et lire leurs pages respectives.
Si des sites vous bloquent car vous utilisez ces extensions : ÉVITEZ ALORS CES SITES ! (c’est aussi simple que ça) Le modèle économique basé sur la publicité est obsolète, et inquisitoire. Rien n’oblige à être pister, rien n’oblige à voir des publicités sans cesse. Non, rien n’oblige à ça ! Nous avons des outils à notre disposition, de bons outils, utilisons les. Réagissons ! Notre autonomie dépends de nous et de nos choix.
Les programmes dont il faut se méfier et donc qu’il faut éviter : (liste non exhaustive)
Chrome (Google)
Microsoft EDGE (et c’est même Microsoft qui le dit)
Opéra
Mozilla Firefox est donc LE SEUL navigateur acceptable, tout le reste est à jeter, littéralement.
Mais il n’y a pas que les programmes que vous utilisez auxquel il faut faire attention, il y a aussi les sites et moteurs de recherches que vous utilisez. C’est à eux à qui nous confions nos secrets les plus intimes parfois. C’est aussi d’eux dont il faut se méfier les : Google, Qwant, Yahoo etc..
« Google n’est pas votre ami » , Google ne cherche pas votre bien. Et des alternatives valables, il y en a ! Plusieurs. Tout d’abord ne jamais rechercher sur un seul moteur de recherche à la fois, toujours faire du multi-sources. « Ne jamais mettre ses œufs dans le même panier » , et dans cette situation, je vous assure que c’est ce qu’il faut faire. Je vous propose trois moteurs intéressants, francophones, respectant la vie privé « by design » , avec une recherche détaillée et des options. Bref, de bons moteurs de recherche. Avec eux, vous trouverez de meilleurs résultats qu’avec Google, parfois vous aurez les mêmes, et parfois vous trouverez plus d’information (et oui !) Car Google et les autres censurent, et censurent même beaucoup.
Pour le reste le surf est maintenant à votre portée, vous pouvez dorénavant aller où bon vous semble, depuis votre chambre, lire jusqu’au bout du monde, lire ce qui vous intéresse, et surtout ce qui est bon pour vous.
Bon surf !
Ah oui, un sujet que je n’ai pas abordé, si par hasard vous naviguez sur Internet à partir d’un mobile (!?) ben là, je ne peux rien dire à part que vous êtes foutus … Je ne peux rien dire de plus. Foutus… Bon, de tout temps, un téléphone ça sert à téléphoner, pas à autre chose. Toutes les applications sur iOS ou Android sont vérolées ou par Apple ou par Google. Il y a un GPS, un micro, bref vous avez vous même choisi d’avoir le diable dans la poche. Accès à vos compte bancaire et j’en passe… Que dire à part que vous n’avez pas de chance, vous n’auriez (peut être) pas dû. En fait, tant pis pour vous. Mais j’en parlerai dans un autre post. Parce qu’à ce stade là, même sur les tablettes il y a un problème, et cela mérite d’être discuté.
