The Stargate Project: Un Skynet réel en devenir?

Le projet Stargate est une construction AI massive qui ressemble beaucoup à Skynet.

Lorsqu'ils produisaient un nom, ils ont probablement décidé que Skynet serait trop sur le nez et a choisi un nom qui n'avait pratiquement rien à voir avec ce qu'ils construisaient réellement.

Skynet, le vrai méchant dans les films « The Terminator », était une IA qui a conclu que les techniciens le tueraient une fois qu'ils ont réalisé ce que Skynet pouvait faire, il a donc agi de manière défensive avec des préjugés extrêmes.

La leçon du film est que les humains auraient pu éviter la machine par rapport à la guerre humaine s'ils s'étaient abstenus de construire Skynet en premier lieu. Cependant, Skynet est un AGI (intelligence générale artificielle), et nous n'y sommes pas encore, mais Stargate évoluera sans aucun doute en AGI. Openai, qui est au cœur de cet effort, pense que nous sommes à quelques années d'Agi.

Elon Musk, sans doute la personne technologique la plus puissante impliquée dans le gouvernement américain, ne croit apparemment pas que Stargate puisse être construit. En ce moment, il semble avoir raison. Cependant, les choses peuvent toujours changer.

Parlons des bonnes et des mauvaises choses qui pourraient arriver si Stargate réussit. Nous terminerons avec mon produit de la semaine, le système de huit personnes.

Stargate: le bien

Les États-Unis sont dans une course pour créer AGI à grande échelle. Celui qui y arrive d'abord bénéficiera d'avantages importants dans les opérations, la défense, le développement et les prévisions. Prenons chacun à son tour.

Opérations: AGI sera en mesure d'effectuer un grand nombre d'emplois à des vitesses machine, de la gestion des opérations de défense à une meilleure gestion de l'économie et à la meilleure utilisation des ressources pour tout projet pertinent.

Ces capacités pourraient réduire considérablement les déchets, stimuler la productivité et optimiser toute fonction gouvernementale à un degré extrême. Si cela se tenait seul, cela pourrait assurer un leadership technique américain dans un avenir prévisible.

Défense: De pouvoir voir des menaces comme le 11 septembre et de se déplacer instantanément contre eux pour pouvoir prévoir les plates-formes d'armes avant qu'elles ne soient nécessaires pour planifier les armes optimales à déployer (ou bouchée), Stargate aurait la capacité d'optimiser le Les militaires américains sont à la fois tactiquement et stratégiquement, ce qui le rend beaucoup plus efficace avec une gamme qui s'étendrait de la protection des individus à la protection des actifs mondiaux américains.

Aucun système humain ne devrait être en mesure de dépasser ses capacités.

Développement: Les AIS peuvent déjà créer leurs propres successeurs, une tendance qui s'accélérera avec AGI. Une fois construit, la version AGI de Stargate pourrait évoluer à un rythme sans précédent et à grande échelle.

Ses capacités se développeront de façon exponentielle à mesure que le système se affine en permanence et s'améliore, devenant de plus en plus efficace et difficile à prévoir. Cette évolution rapide pourrait stimuler les progrès technologiques qui pourraient autrement prendre des décennies, voire des siècles à réaliser.

Ces percées pourraient courir des champs tels que la recherche médicale et l'exploration spatiale, inaugurant une époque de changement transformateur et sans précédent.

Prévision: Dans le film «Minority Report», il y avait le concept de pouvoir arrêter les crimes avant qu'ils ne soient commis à l'aide de la précognition.

Un AGI à l'échelle de Stargate et avec accès aux capteurs du projet Earth 2 de Nvidia pourrait prévoir plus précisément les événements météorologiques plus loin dans le futur que nous ne le pouvons aujourd'hui.

Cependant, étant donné la quantité de données à laquelle Stargate aurait accès, il devrait être en mesure de prédire un groupe croissant d'événements bien avant qu'un humain ne voit le potentiel que cet événement se produise.

Tout, des défaillances catastrophiques potentielles dans les centrales nucléaires aux défaillances potentielles d'équipement dans les plans militaires ou commerciaux, tout ce que cette technologie a touchée serait immédiatement plus fiable et beaucoup moins susceptible d'échouer catastrophique Voir l'avenir et mieux préparer à des résultats positifs et négatifs.

En bref, un AGI à l'échelle de Stargate serait semblable à Dieu dans sa portée et ses capacités, avec le potentiel de faire du monde un endroit meilleur et plus sûr pour vivre.

Stargate: le mauvais

Nous prévoyons de donner naissance à une intelligence massive basée sur des informations qu'elle apprend de nous. Nous ne sommes pas exactement un modèle parfait pour la façon dont une autre intelligence devrait se comporter.

Sans des considérations éthiques adéquates (et l'éthique n'est pas exactement une constante mondiale), l'accent mis sur la préservation de la qualité de vie et un effort dirigé pour assurer un résultat stratégique positif pour les gens, Stargate pourrait faire du mal à bien des égards, y compris la destruction de l'emploi, Agissant contre l'intérêt supérieur de l'humanité, les hallucinations, les dommages intentionnels (à l'AGI) et l'auto-préservation (Skynet).

Destruction du travail: L'IA peut être utilisée pour aider les gens à s'améliorer, mais il est principalement utilisé pour augmenter la productivité ou remplacer les gens.

Si vous avez une équipe de 10 personnes et que vous doublez leur productivité, mais que la charge de travail reste la même, vous n'avez besoin que de cinq employés – les IA sont formées pour remplacer les gens.

Uber, par exemple, devrait finalement se déplacer vers des voitures sans conducteur. Des pilotes aux ingénieurs, AGI sera capable de faire de nombreux emplois, et les humains ne pourront pas rivaliser avec une IA entièrement compétente parce que les IS n'ont pas besoin de dormir ou de manger, et ils ne tombent pas malades.

Sans amélioration significative et actuellement imprévue, les gens ne peuvent tout simplement pas rivaliser avec l'AGI entièrement formé.

Agir contre le meilleur intérêt de l'humanité: Cela suppose que Stargate AGI prend toujours la direction des personnes qui ont tendance à être tactiques et non stratégiques.

Par exemple, la coupe de financement de LA pour les pompiers a été une décision tactiquement solide pour équilibrer un budget, mais stratégiquement, cela a aidé à éliminer beaucoup de maisons et de vies car elle n'était pas stratégique.

Maintenant, imaginez des décisions comme celle-ci prises à plus grande échelle. Les directives contradictoires seront de plus en plus courantes, et le danger d'une sorte de HAL («2001: une odyssée spatiale») est significative. Un «oups» pourrait causer des dommages incalculables.

Hallucinations: L'IA générative a un problème d'hallucination. Il fabrique des données pour effectuer des tâches, conduisant à des échecs évitables. L'AGI sera confrontée à des problèmes similaires, mais peut poser des défis encore plus importants pour assurer la fiabilité en raison de sa complexité considérablement accrue et de sa création partielle par l'IA générative.

Le film «Wargames» représentait une IA incapable de faire la distinction entre un jeu et la réalité, avec le contrôle de l'arsenal nucléaire américain. Un résultat similaire pourrait se produire si Stargate devait confondre une simulation pour une attaque réelle.

Dommage intentionnel: Stargate sera une énorme cible potentielle pour ceux à l'intérieur et à l'extérieur des États-Unis, s'il faut l'exploiter pour des informations confidentielles, pour modifier ses directives afin qu'elle nuise ou aide simplement à une personne, à une entreprise ou à un gouvernement injustement, ce projet aura sans précédent potentiel de risques de sécurité.

Même si l'attaque n'a pas l'intention de faire des préjudices massifs, si cela se fait mal, cela pourrait entraîner des problèmes allant de l'échec du système à des actions qui provoquent une perte de vie importante et des dommages monétaires.

Une fois pleinement intégrée dans les opérations gouvernementales, il aurait le potentiel de mettre les États-Unis à genoux et de créer des catastrophes mondiales. Cela signifie que la défense de ce projet des attaquants étrangers et nationaux sera également sans précédent.

Auto-préservation: L'idée qu'un AGI pourrait vouloir survivre n'est guère nouveau. Il va au cœur des parcelles dans «The Terminator», «The Matrix» et «Robopocalypse». Même le film « Colossus: The Forbin Project » était quelque peu basé sur l'idée d'une IA qui voulait se protéger, mais dans ce cas, il a été rendu si sûr que les gens ne pouvaient pas reprendre le contrôle du système.

L'idée qu'une IA pourrait conclure que l'humanité est le problème à résoudre n'est pas un énorme tronçon, et comment il s'est déroulé pour l'auto-préservation pourrait être incroyablement dangereux pour nous, car ces films sont apparus.

Emballage

Stargate a un potentiel massif pour les bons et les mauvais résultats. Assurer le premier résultat tout en empêchant la seconde nécessiterait un niveau de concentration sur l'éthique, la sécurité, la qualité de la programmation et l'exécution qui dépasserait tout ce que nous avons jamais essayé en tant que race.

Si nous réussissons les choses (les chances sont initialement contre cela car nous avons tendance à apprendre des essais et des erreurs), cela pourrait aider à provoquer un nouvel âge pour les États-Unis et l'humanité. Si nous le faisons mal, cela pourrait nous mettre fin. Ainsi, les enjeux ne pourraient pas être plus élevés, et je doute que nous soyons actuellement à la hauteur car nous n'avons tout simplement pas une grande histoire de construction avec succès des projets massivement complexes la première fois.

Personnellement, je mettrais IBM à la tête de cet effort. Il a travaillé avec l'IA le plus longtemps, avait été conçu par l'éthique dans le processus et possède des décennies d'expérience avec des projets extrêmement grands et sécurisés comme celui-ci. Je pense que IBM a la plus grande probabilité d'assurer de meilleurs résultats et moins de mauvais de cet effort.

Couverture de matelas refroidi à huit eaux de sommeil

Je suis un utilisateur du chilipad depuis le début. Cela a vraiment amélioré mes performances de sommeil au fil des ans, mais elle a traversé de l'eau distillée comme des fous, et l'eau distillée n'est pas si courante.

Ainsi, lorsque mes pros du Chilipad ont commencé à jeter de l'eau sur le sol, j'ai ramassé un système de sommeil huit qui présente des avantages critiques. Tout d'abord, pour un grand lit, il n'y a qu'une seule unité à gérer et un ensemble épais de tuyaux qui vont à la tête du lit. Cela vous permet de placer le système de huit personnes par la tête de lit plutôt qu'au pied du lit, ce qui est plus pratique pour moi.

Il est livré avec une surveillance du sommeil intégrée qui nécessite un abonnement (c'était facultatif sur le chilipad). Alors que le haut-parleur du matelas amélioré du Chilipad était beaucoup plus confortable que l'ancien, le topper du matelas de sommeil est encore meilleur. Cela a l'air mieux, cependant, étant donné que les draps le couvrent, cela ne signifie pas autant. Pourtant, mieux c'est mieux.

Crédit d'image: huit sommeil

Le Sleep Monitor est basé sur l'IA, et jusqu'à présent (j'ai eu le mien depuis plusieurs mois maintenant), il a incroyablement bien fonctionné après sa période d'apprentissage, c'est-à-dire quand il comprend les meilleures températures pour vous. Le lit est généralement la température parfaite à tout moment de la nuit.

Enfin – et c'était énorme pour moi – il n'utilise pas beaucoup d'eau. Au cours des mois, j'ai eu ceci, j'ai utilisé quelque chose comme un huitième d'une tasse d'eau et je n'ai pas encore besoin de le remplir (je suppose que je devrai le faire deux fois par an), ce qui est un énorme Une amélioration par rapport au Chilipad, qui a traversé près d'un gallon d'eau par semaine, parfois plus.

Heureusement, nous avons des planchers de carreaux, donc je n'ai pas de dommages au sol, mais si j'avais du tapis, j'aurais probablement dû le remplacer et vérifier pour m'assurer que je n'ai pas eu de moule ou de bois de bois de la structure de l'eau. Cela seul me ferait sélectionner le système de sommeil sur le chilipad.

De plus, ils ont une option que le Chilipad n'a pas et que je n'ai pas encore acheté: un pad qui passe sous le matelas et élève le lit, ce qui est idéal pour arrêter de ronfler ou de regarder la télévision.

Donc, parce que le système de sommeil des huit est meilleur que le chilipad et parce qu'il m'a aidé avec mes problèmes de sommeil (vieillir), c'est mon produit de la semaine.