The Shrek Sampler: How Entropy-Based Sampling Is Revolutionizing LLMs Deep Papers podcast

Artwork

Science Tech Math Business Arize AI

Innehåll tillhandahållet av Arize AI. Allt poddinnehåll inklusive avsnitt, grafik och podcastbeskrivningar laddas upp och tillhandahålls direkt av Arize AI eller deras podcastplattformspartner. Om du tror att någon använder ditt upphovsrättsskyddade verk utan din tillåtelse kan du följa processen som beskrivs här https://sv.player.fm/legal.

Deep Papers « »
The Shrek Sampler: How Entropy-Based Sampling is Revolutionizing LLMs

28d ago 3:31

Dela

MP3•Episod hem

Innehåll tillhandahållet av Arize AI. Allt poddinnehåll inklusive avsnitt, grafik och podcastbeskrivningar laddas upp och tillhandahålls direkt av Arize AI eller deras podcastplattformspartner. Om du tror att någon använder ditt upphovsrättsskyddade verk utan din tillåtelse kan du följa processen som beskrivs här https://sv.player.fm/legal.

In this byte-sized podcast, Harrison Chu, Director of Engineering at Arize, breaks down the Shrek Sampler.
This innovative Entropy-Based Sampling technique--nicknamed the 'Shrek Sampler--is transforming LLMs. Harrison talks about how this method improves upon traditional sampling strategies by leveraging entropy and varentropy to produce more dynamic and intelligent responses. Explore its potential to enhance open-source AI models and enable human-like reasoning in smaller language models.

To learn more about ML observability, join the Arize AI Slack community or get the latest on our LinkedIn and Twitter.

… continue reading

37 episoder

#Science #Tech #Math #Business #Arize AI

Artwork

The Shrek Sampler: How Entropy-Based Sampling is Revolutionizing LLMs

19 subscribers

published 28d ago

Dela

MP3•Episod hem

Innehåll tillhandahållet av Arize AI. Allt poddinnehåll inklusive avsnitt, grafik och podcastbeskrivningar laddas upp och tillhandahålls direkt av Arize AI eller deras podcastplattformspartner. Om du tror att någon använder ditt upphovsrättsskyddade verk utan din tillåtelse kan du följa processen som beskrivs här https://sv.player.fm/legal.

In this byte-sized podcast, Harrison Chu, Director of Engineering at Arize, breaks down the Shrek Sampler.
This innovative Entropy-Based Sampling technique--nicknamed the 'Shrek Sampler--is transforming LLMs. Harrison talks about how this method improves upon traditional sampling strategies by leveraging entropy and varentropy to produce more dynamic and intelligent responses. Explore its potential to enhance open-source AI models and enable human-like reasoning in smaller language models.

To learn more about ML observability, join the Arize AI Slack community or get the latest on our LinkedIn and Twitter.

… continue reading

37 episoder

#Science #Tech #Math #Business #Arize AI

Alla avsnitt

×

Välkommen till Player FM

Player FM scannar webben för högkvalitativa podcasts för dig att njuta av nu direkt. Den är den bästa podcast-appen och den fungerar med Android, Iphone och webben. Bli medlem för att synka prenumerationer mellan enheter.

Lyssna på 500+ ämnen