Deepfakes, Phishing, Exploits - Gefahren von KI

eGovernment Podcast (mp3)

Diese Folge behandelt die Frage, welche spezifischen Herausforderungen und Risiken Deepfakes und andere KI-Manipulationen für die Verwaltung bedeuten. Dabei werden konkrete Beispiele genannt und besprochen. Gleichzeitig sollen Lösungen und Risikominimierungsstrategien aufgezeigt und erklärt werden.

Kommentare unter: https://egovernment-podcast.com/egov192-gefahr-ki/

Linksammlung

• Leitfaden „Wie erkenne ich Deepfakes?”
  • https://www.linkedin.com/posts/christopher-nehring-423b06257_leitfaden-wie-erkenne-ich-deepfakes-activity-7193127353588285441-VWfM
• Deepfake Abwehr
  • https://www.linkedin.com/posts/christopher-nehring-423b06257_deepfake-abwehr-activity-7195656539234271232-n-fN
• Bildgenerator für Bilder von nicht existierenden Personen
  • https://this-person-does-not-exist.com/en
• Betrugsfälle mit Deepfakes
  • https://www.capital.de/wirtschaft-politik/deepfake–konzern-ueberweist-millionen-an-geklonten-finanzvorstand-34731128.html
  • https://www.ndr.de/ratgeber/verbraucher/Deepfakes-Wenn-Betrueger-die-KI-fuer-den-Enkeltrick-nutzen,enkeltrickki100.html
  • https://www.wired.com/story/yahoo-boys-real-time-deepfake-scams/
  • https://cointelegraph.com/news/ai-generated-fake-ids-pass-crypto-exchange-kyc-onlyfake
  • https://www.tagesschau.de/investigativ/swr/ki-kuenstliche-intelligenz-voice-cloning-100.html
  • https://www.zdf.de/nachrichten/ratgeber/betrugsmasche-telefonbetrug-ki-deepfake-100.html
  • https://www.security-insider.de/wie-ki-cyberangriffe-veraendert-a-7b277921ecae149877ead0b7c0cb8612/
• Cybermobbing mit Deepfakes
  • https://www.bundestag.de/dokumente/textarchiv/2023/kw11-pa-kiko-cybermobbing-937336
  • https://the-decoder.de/deepfake-nudes-eltern-ahnungslos-lehrer-misstrauisch-schueler-gespalten/
  • https://www.dasding.de/newszone/usa-lehrer-will-schulleiter-mit-ki-fake-loswerden-100.html

Teilnehmer

Moderator:in

• Torsten Frenzel
  • Torsten @ LinkedIn
  • Torsten @ Instagram
  • Torsten @ keybase.io
  • Torsten @ Mastodon
  • Torsten @ PayPal.me
  • Torsten @ Thomann
  • Torsten @ amazon

Gast

• Christopher Nehring
  • Linkedin

---

Wenn ihr uns und unsere Arbeit unterstützen möchtet, dann könnt ihr das gern durch einen Einkauf in unserem Shop, per PayPal oder regelmäßig auf Steady tun.
Weitere Informationen findet ihr hier.

Sticker gibt es hier.

Kapitel

1. Einleitung (00:00:34)

2. Bedeutung der Digitalisierung für die öffentliche Verwaltung (00:04:17)

3. Erklärung von LLMs und neue Frage (00:11:04)

4. Entwicklung von Betrugsangriffen durch KI (00:14:31)

5. Gefahr von Fälschungen in der Verwaltung (00:17:21)

6. Einfache Erstellung von Deepfakes (00:19:55)

7. Unterschied zwischen Social Hacking und IT-Bedrohungen (00:23:22)

8. Risiken von JetGPT für staatliche Hackergruppen (00:24:45)

9. Einsatz von KI in verschiedenen Angriffsstufen (00:25:58)

10. Zunahme von Angriffen auf kleinere Organisationen (00:26:38)

11. Politische und Chaos-stiftende Motivation von Angriffen (00:27:50)

12. Potenzielle Auswirkungen von vorgetäuschten Angriffen (00:29:23)

13. Erkennung von KI-generierten Deepfakes im Vorfeld (00:29:43)

14. Herausforderungen bei der Erkennung von KI-Textinhalten (00:30:46)

15. Unterschiede in der visuellen Qualität von KI-generierten Bildern (00:31:44)

16. Anhaltspunkte zur Erkennung von KI-generierten Bildern (00:32:18)

17. Unterschiede bei der Erkennung von KI-generierten Videos und Audios (00:33:39)

18. Diskussion über zukünftige Entwicklungen von KI-Generatoren (00:36:22)

19. Maßnahmen zur Erkennung und Abwehr von Deepfakes (00:37:29)

20. Notfallplanung und Incident Response bei Deepfake-Angriffen (00:39:47)

21. Gesetzgebung und Regelungen bezüglich Deepfakes (00:42:55)

22. Auswirkung des KI-Gesetzes auf Deepfake-Prävention (00:45:35)

23. Technologische Überlegenheit gegenüber der Gesetzgebung (00:46:41)

24. Betrachtung der Verbreitung von Deepfakes auf Social-Media-Plattformen (00:46:56)

25. Veröffentlichung von Papers zur Erkennung und Abwehr von Deepfakes (00:47:30)

26. Wichtigkeit des Bewusstseins für Deepfake-Problematik (00:48:19)