Thilo Hagendorff über KI-Ethik und Maschinenpsychologie

Prioritäten

Der KI-Forscher Thilo Hagendorff von der Universität Stuttgart gibt im Gespräch Einblicke in seine Forschung.
Im ersten Teil des Gesprächs wird auf der Basis einer rigorosen Studie der akademischen Fachliteratur ein Überblick einschließlich kritischer Einordnung über die Themen der KI-Ethik gegeben — von Fairness über Cybercrime bis hin zu weitreichenden katastrophalen Risiken und einigem mehr.
Im zweiten Teil des Gesprächs geht es primär um das, was Thilo Hagendorff „Maschinenpsychologie“ nennt, insbesondere auf die Frage, ob Sprachmodelle ein Verständnis von Täuschung und die Fähigkeit zu täuschen haben. In diesem Zusammenhang berichtet Thilo Hagendorff von seinem empirischen, behavioristischen Forschungsansatz und seinen Forschungsergebnissen.
Ein Transkript des Gesprächs und weiterführende Ressourcen gibt's auf der Episodenseite: https://prioritaeten-podcast.de/episode/thilo-hagendorff-uber-ki-ethik-und-maschinenpsychologie

Kapitel

1. Intro (00:00:00)

2. Allgemeine Lehren aus dem Blick auf Fachliteratur in der KI-Ethik (00:06:21)

3. Fairness & Bias (00:14:12)

4. Sicherheit (00:21:04)

5. KI in Waffensystemen (00:35:52)

6. schädlicher Content (00:40:53)

7. Halluzinationen (00:45:22)

8. Privatsphäre und Datenschutz (00:49:24)

9. Interaktionsrisiken (00:54:01)

10. Sicherheit und Robustheit (00:57:52)

11. Bildung (01:01:45)

12. Alignment (01:04:11)

13. Cybercrime (01:07:00)

14. Governance (01:08:33)

15. Ökonomische Effekte (01:10:26)

16. Erklärbarkeit und Transparenz (01:11:42)

17. Evaluation (01:16:01)

18. Nachhaltigkeit (01:17:22)

19. Kreativität (01:19:52)

20. Copyright, Urheberschaft, Autorschaft (01:22:35)

21. Bewusstsein (01:29:01)

22. Maschinenpsychologie (01:33:37)

23. Theory of Mind in Mensch und Maschine (01:35:32)

24. Täuschungsvermögen (01:42:44)

25. Ressourcen und Outro (02:02:20)