Artwork

Innehåll tillhandahållet av Sigurd Schacht, Carsten Lanquillon, Sigurd Schacht, and Carsten Lanquillon. Allt poddinnehåll inklusive avsnitt, grafik och podcastbeskrivningar laddas upp och tillhandahålls direkt av Sigurd Schacht, Carsten Lanquillon, Sigurd Schacht, and Carsten Lanquillon eller deras podcastplattformspartner. Om du tror att någon använder ditt upphovsrättsskyddade verk utan din tillåtelse kan du följa processen som beskrivs här https://sv.player.fm/legal.
Player FM - Podcast-app
Gå offline med appen Player FM !

Episode 132 - Kompression von Prompts

35:21
 
Dela
 

Manage episode 409664999 series 2911119
Innehåll tillhandahållet av Sigurd Schacht, Carsten Lanquillon, Sigurd Schacht, and Carsten Lanquillon. Allt poddinnehåll inklusive avsnitt, grafik och podcastbeskrivningar laddas upp och tillhandahålls direkt av Sigurd Schacht, Carsten Lanquillon, Sigurd Schacht, and Carsten Lanquillon eller deras podcastplattformspartner. Om du tror att någon använder ditt upphovsrättsskyddade verk utan din tillåtelse kan du följa processen som beskrivs här https://sv.player.fm/legal.

Was wäre wenn wir Prompts automatisch verkleinern und damit Kosten und Geschwindigkeit eines LLMs ohne Informationsverlust verbessern könnten ?
Diesen Ansatz verfolgt LLMLingua über das wir in der heutigen Sendung sprechen wollen.
LLMLingua: https://arxiv.org/abs/2310.05736
LongLLMLingua: https://arxiv.org/abs/2310.06839
LLMLingua2:https://arxiv.org/abs/2403.12968

Support the Show.

  continue reading

165 episoder

Artwork
iconDela
 
Manage episode 409664999 series 2911119
Innehåll tillhandahållet av Sigurd Schacht, Carsten Lanquillon, Sigurd Schacht, and Carsten Lanquillon. Allt poddinnehåll inklusive avsnitt, grafik och podcastbeskrivningar laddas upp och tillhandahålls direkt av Sigurd Schacht, Carsten Lanquillon, Sigurd Schacht, and Carsten Lanquillon eller deras podcastplattformspartner. Om du tror att någon använder ditt upphovsrättsskyddade verk utan din tillåtelse kan du följa processen som beskrivs här https://sv.player.fm/legal.

Was wäre wenn wir Prompts automatisch verkleinern und damit Kosten und Geschwindigkeit eines LLMs ohne Informationsverlust verbessern könnten ?
Diesen Ansatz verfolgt LLMLingua über das wir in der heutigen Sendung sprechen wollen.
LLMLingua: https://arxiv.org/abs/2310.05736
LongLLMLingua: https://arxiv.org/abs/2310.06839
LLMLingua2:https://arxiv.org/abs/2403.12968

Support the Show.

  continue reading

165 episoder

Alla avsnitt

×
 
Loading …

Välkommen till Player FM

Player FM scannar webben för högkvalitativa podcasts för dig att njuta av nu direkt. Den är den bästa podcast-appen och den fungerar med Android, Iphone och webben. Bli medlem för att synka prenumerationer mellan enheter.

 

Snabbguide