llama_sampler_init_top_p function

  1. @Native<Pointer<llama_sampler> Function(Float, Size)>(ffi.Float, ffi.Size)>()
Pointer<llama_sampler> llama_sampler_init_top_p(
  1. double p,
  2. int min_keep
)

@details Nucleus sampling described in academic paper "The Curious Case of Neural Text Degeneration" https://arxiv.org/abs/1904.09751

Implementation

@ffi.Native<ffi.Pointer<llama_sampler> Function(ffi.Float, ffi.Size)>()
external ffi.Pointer<llama_sampler> llama_sampler_init_top_p(
  double p,
  int min_keep,
);