Robot conversationnel et code d’éthique

Par Gaétan Brousseau, président Innovention

Robot Tay de Microsoft

Vous rappelez-vous du robot conversationnel nommé Tay, développé et déployé par Microsoft en 2016? Ce robot fut retiré du marché après seulement 1 journée sur Twitter… Le principe était que « plus vous parlez et plus Tay devient intelligent » Mais l’expérience bien intentionnée a rapidement sombré dans le chaos, les propos racistes et sexistes ont rapidement mis fin à ce projet. Certains utilisateurs avaient coordonné leurs efforts pour abuser de la capacité de Tay à apprendre, afin que Tay réponde de manière inappropriée.

En tant qu’entreprise, pouvez-vous autoriser un tel risque ? Assurément que non ! Ceci nous montre à quel point un code d’éthique pour les robots conversationnels est important pour l’évolution des robots et pour le secteur de l’intelligence Artificielle.

Qu’est-ce qu’un code d’éthique

Un code d’éthique est l’ensemble des obligations qu’un professionnel doit respecter dans l’exercice de ses fonctions. Il regroupe les valeurs fondamentales de la profession et la ligne de conduite à adopter. Les entreprises aussi naturellement doivent suivre un code d’éthique pour maintenir le sérieux de leurs réputation.

Dans une société axée principalement sur l’argent et le profit, nous ne voyons pas toujours l’importance d’un code d’éthique et de la transmission d’une information juste et éclairée.

Imaginons maintenant, des milliers d’IA programmées partout sur la planète en fonction de la conscience et la morale auxquelles nous n’adhérons pas, inquiétant non?…

Qu’est-ce que le concept de vérité ?

Une croyance n’a d’autre fondement que l’expérience et le vécu d’une personne. Certains s’appuient sur des faits tandis que d’autres s’en remettent à un acte de foi. Voilà déjà une polarisation du monde qui explique à plusieurs niveaux bien des tensions et sur lesquels réfléchir avant de déléguer notre cerveau à une intelligence artificielle.

Alors… Dans quel sens doit-on orienter les robots conversationnels ? Le monde devra réfléchir sérieusement à la meilleure approche pour le futur.

Dans cette ère encline à la désinformation souvent propagée par des groupes de lobbyistes, il faut rester vigilant.

Solution et Approche proposée par Innovention

Force est de constater qu’à défaut d’avoir une âme et une conscience, il serait préférable d’orienter les croyances des robots sur les faits. C’est l’approche prise par Innovention dans la construction de son robot conversationnel OLIVIA.

Doit-on aussi s’en remettre à Internet ? Notre position est non. L’information doit être contrôlée et vérifiée avant d’être diffusée. En s’assurant de n’utiliser que l’information autorisée par une entreprise, Innovention s’assure que leurs robots conversationnels divulgueront de l’information pertinente et assureront un renforcement positif de la marque ainsi que de la notoriété des produits et services offerts.