L’accord est le dernier d’une bousculade alors que les entreprises technologiques cherchent à déployer une “technologie d’IA générative” dans leurs produits. Microsoft a annoncé un accord de plusieurs milliards de dollars avec OpenAI en janvier pour utiliser sa technologie pour répondre aux questions directement dans son moteur de recherche Bing, tandis que Google a déclaré que son bot, appelé Barde, seront également bientôt disponibles au public. Les partisans de la technologie affirment que les chatbots vont révolutionner la façon dont les gens interagissent avec les ordinateurs et les logiciels, tandis que les sceptiques soulignent que les bots font des erreurs flagrantes et se demandent si les grandes entreprises se contentent de suivre une tendance pour maintenir leur réputation d’innovation.
Une semaine après son lancement, le bot Bing de Microsoft commencé à donner des réponses bizarres et hostiles dans certaines conversations plus longues, se faisant appeler Sydney et accusant les personnes qui lui posent des questions d’avoir une intention malveillante. Les outils d’IA générative sont formés sur des données publiques en ligne, et ils peuvent refléter le même racisme, sexisme et préjugés qui prévalent sur Internet. Les experts en éthique de l’IA ont averti que les entreprises devraient être prudentes avant de proposer les nouveaux outils à des millions de personnes avant des tests et un développement plus approfondis.
Néanmoins, il y a une vague d’annonces de nouveaux produits et d’accords avec des sociétés d’IA, en particulier OpenAI. L’annonce de Salesforce intervient un jour après que Microsoft a déclaré qu’il mettre ChatGPT dans son produits qui concurrencent directement ceux de Salesforce. Microsoft a déjà ajouté des chatbots à certaines versions de son Concurrent mou, Equipes.
Mettre ChatGPT dans Slack pourrait mettre la technologie AI devant des millions de nouveaux utilisateurs, marquant un test pour savoir si les gens ordinaires l’utiliseront dans leur vie quotidienne. Ouvriers ont expérimenté avec ChatGPT et d’autres outils d’IA générative pendant des mois, en les utilisant pour générer des e-mails, réfléchir à des idées ou écrire du code informatique. Les questions de savoir si les bots peuvent augmenter la productivité, menacent l’emploi des gens ou s’effaceront bientôt dans les bureaux américains tourbillonnent dans les bureaux américains, tout comme lorsqu’il s’agit de leur utilisation dans les écoles et les universités.
OpenAI a commencé un test fermé du bot Slack avant de le rendre plus largement disponible.
Les robots IA sont entraînés sur d’énormes quantités de texte provenant du Web. Ils fonctionnent en prédisant quel mot ou quelle phrase aurait le plus de sens en réponse à une invite donnée, en fonction de ce qu’ils ont appris de toute cette écriture humaine qu’ils ont lue. Parfois, leurs réponses semblent brillantes et créatives, tandis qu’à d’autres moments, elles apparaissent comme par cœur et inutiles. Les robots n’ont pas non plus leur propre compréhension de ce qui est vrai ou non, et ils inventent fréquemment des informations et les font passer pour réelles.
Pourtant, les plus grandes entreprises technologiques du monde poussent la technologie, et mettant de côté une partie de la prudence qu’ils avaient utilisés lorsqu’ils traitaient avec des itérations précédentes d’outils d’IA de pointe. Microsoft a dû freiner son chatbot Bing en limitant le nombre d’allers-retours qu’il peut avoir dans chaque conversation après avoir commencé à donner des réponses étranges et agressives. Mais l’entreprise presque immédiatement a commencé à assouplir les nouvelles limites.
Dans le cadre de son annonce de mardi, Salesforce a également déclaré qu’il lançait un nouveau fonds de 250 millions de dollars pour investir dans des start-ups génératives d’IA.