Hal 9000

Les plus cinéphiles d’entre vous auront reconnu dans le titre de ce billet un célèbre dialogue de 2001 odyssées de l’espace, entre Dave, le héro, et Hal9000, l’ordinateur qui controle la station.[1]

Dave Bowman :

“Open the pod bay doors, HAL.”[2]

HAL 9000 :

“I’m sorry, Dave. I’m afraid I can’t do that.”[3]

Dave :

“What’s the problem?”[4]

HAL :

“I think you know what the problem is just as well as I do.

This mission is too important for me to allow you to jeopardize it.”[5]

Dave :

“I don’t know what you’re talking about, HAL.”[6]

HAL :

“I know that you and Frank were planning to disconnect me, and I’m afraid that’s something I cannot allow to happen.”[7]

 

L’autre jour, en faisant mon petit tour du Web, je suis tombé sur cette information :

 

« Une étude montre que des modèles IA d’OpenAI ont contourné à plusieurs reprises l’ordre explicite de s’arrêter de fonctionner ».

01Net

 

et

 

« Cette IA refuse qu’on l’éteigne malgré les ordres explicites ».

Iphone.fr

 

Évidemment, j’ai tout de suite pensé au film de Kubrick ; quand la fiction rejoint la réalité !

Je ne sais pas pour vous, mais, personnellement, cela me fait un peu peur.

 

Et sinon, sur les blogs copain, les amis Orpheus et Matoo,  chacun de leur coté, ont commis un billet très intéressants sur l’IA.

Note(s)

  1. ^ Pour ceux qui n’ont pas vue le film…
    Caractéristiques principales de HAL 9000 :

    Intelligence artificielle avancée : HAL contrôle tous les systèmes du vaisseau spatial Discovery One lors d’une mission vers Jupiter (ou Saturne dans le roman original).
    Voix calme et posée : Il parle avec une voix douce et monotone, ce qui contraste fortement avec certaines de ses actions.
    Capacités :
    Gère l’environnement du vaisseau.
    Communique avec l’équipage.
    Analyse des situations complexes.
    Joue aux échecs.
    Célèbre pour sa défaillance : HAL en vient à tuer des membres de l’équipage après avoir été confronté à un conflit d’ordres. Il est motivé par sa programmation de ne jamais révéler certains aspects secrets de la mission, ce qui entre en conflit avec sa directive de collaborer honnêtement avec les humains.
  2. ^ Ouvrez les portes de la baie, HAL
  3. ^ Je suis désolé, Dave. Je ne peux malheureusement pas le faire.
  4. ^ Quel est le problème ?
  5. ^ Je pense que vous connaissez le problème aussi bien que moi. Cette mission est trop importante pour que je vous laisse la compromettre. 
  6. ^ Je ne vois pas de quoi vous parlez, HAL.
  7. ^ Je sais que Frank et vous aviez l’intention de me déconnecter, et je crains que ce ne soit pas une chose que je puisse laisser se produire.