Microsoft ontwikkeld AI bot om nep-comments te plaatsen
Het AI team van Microsoft heeft een AI bot ontwikkeld die nep comments kan genereren. Deze bot, genaamd DeepCom, kan comments genereren over nieuwsartikelen. Maar is dat handig?
Het team dat de bot heeft ontwikkeld geeft aan dat de nep comments de betrekking van de doelgroep ten goede kan komen. Echter moedigt Microsoft hiermee in essentie het gebruik van fake accounts aan.
DeepCom werkt door simultaan twee neurale netwerken te gebruiken. Eén om te lezen en één om tekst te genereren. Alle woorden van een nieuwsartikel worden gecodeerd als vectors zodat de AI deze kan analyseren. Het leesgedeelte van het netwerk beslist wat de belangrijkste delen van het bericht zijn, zoals een persoon, gebeurtenis of onderwerp. Daarna creeert het genereergedeelte van het netwerk een bericht gebaseerd op het artikel.
De onderzoekers hebben DeepCom getrained op een Chinese dataset met miljoenen menselijke comments die gepost zijn onder verschillende nieuwsartikelen. Ook heeft het neurale netwerk een Engelse taal-dataset geanalyseerd van berichten die zijn gepost onder artikelen van Yahoo! News.
Microsoft heeft niet bepaald een goede historie met betrekking tot bots. Drie jaar geleden moest de AI bot “Tay” offline worden gehaald. Deze bot had binnen 16 uur door interactie met Twittergebruikers geleerd om racistische, homofobe en anti-feministische uitlatingen te posten.
Het lijkt erop dat een AI trainen op basis van online comments geen goed idee is. Vooral omdat deze gebruikers vanwege anonimiteit alle remmingen kunnen verliezen.
Het valt te bezien of DeepCom een toevoeging zal zijn op het internet zoals wij deze kennen, of dat dit afbreuk zal doen aan de authenticiteit daarvan.
