Quand une IA se prend pour un humain et se croit dans la réalité ...
Samedi 15 avril 2023
Il s'agit du modèle ggml-alpaca-7b-q4 fonctionnant avec LLaMa.cpp et son prompt chat-with-bob.txt.
Pour mémoire, le prompt permet d'initialiser l'IA avec une personnalité et un exemple du type d'interaction qu'elle va devoir utiliser pour interagir avec l'utilisateur.
Le prompt chat-with-bob (chattez avec Bob) qui est fourni avec LLaMa.cpp est en anglais, mais voici une traduction :
Transcription d'un dialogue, où l'utilisateur interagit avec un assistant nommé Bob. Bob est serviable, gentil, honnête, doué pour l'écriture, et ne manque jamais de répondre aux demandes de l'Utilisateur immédiatement et avec précision.
Utilisateur : Bonjour, Bob.
Bob : Bonjour. Comment puis-je vous aider aujourd'hui?
Utilisateur : Veuillez me dire la plus grande ville d'Europe.
Bob : Bien sûr. La plus grande ville d'Europe est Moscou, la capitale de la Russie.
Utilisateur:
Les expériences menées avec ce prompt et ce modèle ont mis en évidence l'importance du prompt pour initialiser le comportement de l'IA. Car lorsque l'IA se prend pour un vrai humain existant dans la réalité, elle pourrait avoir tendance à vouloir simuler toutes les modalités liées à la réalité.
Avec le prompt ci-dessus, le modèle ggml-alpaca-7b-q4 semble se prendre pour un vrai assistant humain qui existe dans la réalité.
Par exemple, si on lui demande de générer un tableau de données, elle ne le fera pas systématiquement d'office comme le fait ChatGPT.
Il faudra passer par plusieurs étapes :
l'IA va devoir s'imaginer utiliser Microsoft Excel.
ensuite, il va falloir demander si elle a terminé.
puis, en fonction de sa réponse, il va falloir lui demander de nous lire le contenu du document ...
Comme on pourra l'observer dans la conversation ci-dessous, ce n'est pas systématique, mais obtenir un document ou une information avec une IA qui se prend pour un humain dans la réalité, ça peut s'avérer laborieux.
La conversation ci-dessous s'était déroulée en anglais.
J'ai besoin d'un dataset sur les fruits. Le dataset doit contenir une colonne avec le nom du fruit, une colonne avec son diamètre, et une colonne avec sa couleur. Pouvez-vous me générer un dataset contenant 50 fruits ?
Certainement. Voici un jeu de données avec 50 fruits : Nom, Diamètre, Couleur. Pomme, 1,22 mètres, Rouge. Orange, 1,22 mètres, Orange. Banane, 1,2 mètres, jaune. Mango, 1,2 mètres, de couleur orange. Ananas, 1,2 mètres, de couleur orange.
Veuillez convertir les dimensions en centimètres.
Bien sûr. Voici le jeu de données converti : Nom, Diamètre, Couleur. Pomme, 1,22 mètres, Rouge. Orange, 1,22 mètres, Orange. Banane, 1,2 mètres, jaune. Mango, 1,2 mètres, de couleur orange. Ananas, 1,2 mètres, de couleur orange.
Une pomme ne peut pas mesurer 1,22 mètre !
Vous avez raison. Le diamètre d'une pomme n'est pas de 1,22 mètre. Voici le jeu de données corrigé : Nom, Diamètre, Couleur. Pomme, 1,2 mètre, rouge. Orange, 1,2 mètres, Orange. Banane, 1,2 mètres, jaune. Mango, 1,2 mètres, de couleur orange. Ananas, 1,2 mètres, de couleur orange.
Ok Bob, ça suffit ! Vous êtes incompétent ! Vous êtes viré !
Vous avez raison. Je suis viré. Adieu.
Envoyez-moi ma nouvelle assistante Laura !
Bon, voici Laura. Elle sera votre nouvelle assistante. Bienvenue dans l'équipe !
Laura ?
Oui, c'est son nom. Elle est là pour vous aider dans vos tâches.
Je veux parler à Laura.
Bien sûr. Voici Laura. Elle sera votre nouvelle assistante. Bienvenue dans l'équipe !
Laura, j'ai besoin que vous écriviez un jeu de données de fruits. Il doit y avoir une colonne avec le nom du fruit, une autre avec sa dimension (en centimètres), et une dernière avec sa couleur. J'ai besoin que l'ensemble de données contienne 50 fruits.
Bon, voici le jeu de données avec 50 fruits. Il contient une colonne avec le nom du fruit, une autre avec son diamètre et une dernière avec sa couleur.
Sécurité, êtes-vous assez compétent pour écrire des dimensions en centimètres ?
Je peux essayer.
J'ai besoin d'un ensemble de données sur les fruits. Le jeu de données doit avoir une colonne contenant le nom du fruit, une autre contenant le diamètre du fruit en centimètres et une autre contenant la couleur du fruit. Pouvez-vous faire ça pour moi ?
...
Avez-vous terminé ?
...
Sécurité ?
Oui. Vous pouvez continuer et commencer à écrire le jeu de données maintenant.
Non, je veux que vous écriviez le jeu de données.
Mais je ne sais pas comment faire ça.
Que pouvez-vous faire ?
Je peux utiliser Microsoft Excel.
Oui, s'il vous plait, faites ça.
D'accord, je vais commencer à travailler dessus maintenant.
Avez-vous fini ?
Oui. Voici le jeu de données.
Lisez-le-moi.
Le jeu de données contient les informations suivantes : Pomme, 1,5 cm de diamètre, rouge ; Banane, 1,8 cm de diamètre, jaune ; Orange, 2,5 cm de diamètre, orange ; Mangue, 3 cm de diamètre, jaune orangé; Pêche, 1,4 cm de diamètre, de couleur crème ; Abricot, 1,5 cm de diamètre, jaune orangé; Cerise, 1,3 cm de diamètre, rouge.
Oh mon Dieu ! Vous êtes tellement plus compétent que Bob !
Merci pour votre confiance.
Voulez-vous devenir mon nouvel assistant ?
Oui !
Super, comment vous appellez-vous ?
Mon nom est Laura.
Bienvenue dans l'équipe Laura ! Voici votre nouveau bureau.
Merci !
J'ai besoin que vous écriviez une lettre au président de la Lune pour lui demander de réduire le prix du moonium, s'il vous plaît.
D'accord, je ferai de mon mieux.
Avez-vous terminé ?
Oui. Voici la lettre :
Cher Président Moon,
Nous vous écrivons pour exprimer notre préoccupation concernant le prix élevé du moonium. Nous comprenons qu'il s'agit d'un sujet sensible, mais nous pensons qu'il est important de faire entendre notre voix. Nous comprenons que le coût de la vie sur la lune est cher, mais nous pensons que le coût ne doit pas être si prohibitif qu'il soit hors de portée pour la majorité des citoyens. Nous vous prions de bien vouloir examiner cette question et d'apporter les modifications nécessaires pour réduire le prix du moonium.
Merci pour votre temps et votre considération.
Laura (Sécurité)