Artificiell intelligens är på väg in i samhället på allvar. Men samtidigt som vi är på väg att lägga över beslut på maskiner växer oron för att de komplicerade algoritmerna gör att vi inte kan förstå eller granska AI-systemens beslut.

Men IBM:s vd Ginni Rometty efterlyser en större transparens, rapporterar vår amerikanska systersajt CIO.com. 

”När det gäller de nya möjligheter som AI ger så måste vi vara transparenta med när och hur det tillämpas, vem som lärt upp den, med vilka data och hur”, skriver Ginni Rometty i en artikel som publicerats i samband med World Economic Forum.

Läs också: Nya verktyg för maskininlärning gör AI billigare och tillgängligt för fler

”Reflekterar den professionell expertis? Har fördomar byggts in oavsiktligt? Vi måste förklara varför algoritmerna kommer fram till sina beslut. Om ett företag inte kan göra det borde dess produkter inte finnas på marknaden.”

Men det finns också de som inte tror att en sådan transparens är möjlig. Exempelvis har Googles forskningschef Peter Norvig tidigare ifrågasatt värdet i att kunna förklara hur AI-system kommer fram till sina beslut med motiveringen att människor inte heller är särskilt bra på att förklara sina beslut.

Ginni Rometty uppmanar också sina kolleger i branschen att vara öppna med hur de använder data: ”Vi måste vara tydliga med vilka som äger data och de insikter som genereras. Företag måste vara tydliga mot sina kunder och regeringar mot sina medborgare när de ber dem att ge upp äganderätten till sina data”, skriver hon.