Robusthet och transparens är nästa steg inom AI

AI-podden med Ather Gattami

Veckans AI-podden gäst är Pin-Yu Chen, Chief Scientist på IBM Watson Research. Pin-Yu berättar om hur AI har utvecklats och hur fokus har skiftat från att göra noggranna produktioner till att rekommendera och även ta beslut som är av stor vikt eller spelar avgörande roll i en process. Han nämner exempel från egna forskningen i området säker och robust AI teknologi. Exempel på sådan beslut är att döma i juridiska processer, att ta beslut i vilka man anställer eller gör sig av med, eller utbildningssystemet som t ex att använda sig av AI för att rätta antagningsprov på universitet. Därför är det viktigt att bygga AI system med andra mål än noggrannhet som rättvisa, jämställdhet, jämlikhet, osv. Pin-Yu understryker också vikten av att kunna förklara besluten som tas eller rekommenderas av AI system. En annan aspekt är robusthet mot extern påverkan, som där en liten ändring i det datat man matar in inte ska leda till förödande beslut. Vi diskuterade även hur IBM har transformerats på senare år inom AI forskningen där man nu är mycket mer öppen med forskningsresultaten i form av publikationer och open source metodik. Pin-yu förklarar att konkurrensen är så hård att även jättar som IBM måste öppna upp så att man lockar till de bästa talangerna. Detta är säsongens sista avsnitt! Läs mer: https://ai-podden.se/