Groq vous permet d'utiliser rapidement plusieurs modèles d'IA – voici comment procéder
De nouveaux modèles, outils et plates-formes d'intelligence artificielle semblent être lancés chaque jour, mais rares sont ceux qui ont bénéficié du battage médiatique que j'ai vu autour de Groq, et ce battage médiatique semble bien mérité.
Fondée au bord d'une piscine en 2016, Groq construit des puces personnalisées spécialement conçues pour exécuter de grands modèles de langage tels que celui qui sous-tend ChatGPT d'OpenAI ou Gemini de Google.
Il a actuellement accès à plusieurs modèles open source, dont le Llama 2 de Meta et la famille de modèles de la licorne IA française Mistral, y compris le Mixtral de niveau proche du GPT-4.
La société affirme qu’elle peut répondre aux requêtes 75 fois plus rapidement que ce qu’un humain moyen peut saisir et beaucoup plus rapidement que n’importe qui peut lire – jusqu’à 100 jetons par seconde. C'est difficile à comparer mais c'est plus rapide que de fonctionner sur un GPU ou un CPU.
Comment utiliser Groq
Il pourrait avoir un nom similaire à celui du chatbot Grok d'Elon Musk qui réside en arrière-plan de X, mais Groq n'a pas de modèle d'IA propre, offrant plutôt un accès rapide aux principaux modèles.
La vitesse n'est pas toujours essentielle pour que les outils d'IA soient utilisables, mais si vous souhaitez engager la conversation la plus naturelle possible avec le bot, vous avez besoin d'une réponse rapide.
1. Visitez le site Web de Groq
Pour l'instant, la meilleure façon d'utiliser Groq est de visiter le site Web de la plateforme AI, de vous inscrire et de commencer à discuter. Pour commencer aller à groq.com.
2. Connectez-vous avec Google
Actuellement, la seule option pour vous connecter est avec Google, bien que vous puissiez utiliser la plateforme pendant un certain temps sans avoir à vous connecter.
Pour vous connecter cliquez sur le bouton Bienvenue dans le coin supérieur droit alors cliquez sur Connexion. Cela vous mènera à la page de connexion de Google où vous pourrez simplement inscrivez-vous avec votre compte Google existant.
3. Sélectionnez un modèle
Lorsque vous utilisez ChatGPT, en supposant que vous payez pour Plus, vous avez la possibilité de basculer entre GPT-3.5 et GPT-4.
Groq fonctionne de la même manière, vous permettant de basculer entre différents modèles et différentes versions de modèles. Pour changer de modèle il suffit cliquez sur le nom du modèle en haut à gauche de la fenêtre.
Les 2-3 derniers caractères déterminent la taille de la fenêtre contextuelle. Par exemple, 32 000 signifie que l’IA peut contenir jusqu’à 32 000 jetons, soit environ 24 000 mots avant d’oublier le début du message.
4. Commencez à poser votre question
Groq fonctionne comme Gemini, Copilot, Claude ou ChatGPT. Vous disposez d'une boîte de dialogue dans laquelle vous pouvez saisir le message de votre choix, puis la réponse apparaîtra.
Pour commencer juste tapez votre invite et appuyez sur Entrée ou cliquez sur la flèche rouge.
5. Lisez la réponse de l'IA
La réponse de l'IA, ainsi que la vitesse à laquelle elle a généré cette réponse, apparaîtront sous la boîte de dialogue. Vous pouvez le lire, poser une question complémentaire ou modifier la réponse.
6. Modifier la réponse
Pour modifier la réponse cliquez sur le bouton Modifier. Il s’agit d’une fonctionnalité intelligente que je n’ai jamais vue à ce point dans un chatbot auparavant. Il est disponible dans Docs ou Word mais il s'agit d'une nouveauté pour un outil de chatbot. Vous pouvez cliquer sur Modifier et sélectionner parmi différentes options de mise en page. Cela affine efficacement l'invite d'origine, par exemple en la plaçant dans un tableau ou sous forme de liste.
7. Définir une invite système
Une invite au niveau du système est similaire aux instructions personnalisées dans ChatGPT, il s'agit d'un ensemble d'instructions de base auxquelles l'IA doit adhérer dans toute réponse à un message. Cela pourrait être utilisé, par exemple, pour lui dire d'agir comme un conférencier strict ou comme une grand-mère douce. Vous pouvez également lui donner des informations de base telles que les statistiques de votre nom que vous devez conserver dans sa mémoire plus longtemps qu'une seule conversation.
Pour y accéder cliquez sur l'icône en forme de rouage en haut à droite et sélectionnez Invite système.
8. Copiez le contenu d'un message
Vous pouvez envoyer plusieurs messages et copier le contenu de chaque réponse individuelle en en cliquant sur l'icône de copie à côté du bouton Modifier. Vous pouvez également copier votre message initial.
