llama_sampler_init_grammar_lazy function

  1. @Native<Pointer<llama_sampler> Function(Pointer<llama_vocab>, Pointer<Char>, Pointer<Char>, Pointer<Pointer<Char>>, Size, Pointer<llama_token>, Size)>(ffi.Pointer<llama_vocab>, ffi.Pointer<ffi.Char>, ffi.Pointer<ffi.Char>, ffi.Pointer<ffi.Pointer<ffi.Char>>, ffi.Size, ffi.Pointer<llama_token>, ffi.Size)>()
Pointer<llama_sampler> llama_sampler_init_grammar_lazy(
  1. Pointer<llama_vocab> vocab,
  2. Pointer<Char> grammar_str,
  3. Pointer<Char> grammar_root,
  4. Pointer<Pointer<Char>> trigger_words,
  5. int num_trigger_words,
  6. Pointer<llama_token> trigger_tokens,
  7. int num_trigger_tokens,
)

Implementation

@ffi.Native<
  ffi.Pointer<llama_sampler> Function(
    ffi.Pointer<llama_vocab>,
    ffi.Pointer<ffi.Char>,
    ffi.Pointer<ffi.Char>,
    ffi.Pointer<ffi.Pointer<ffi.Char>>,
    ffi.Size,
    ffi.Pointer<llama_token>,
    ffi.Size,
  )
>()
external ffi.Pointer<llama_sampler> llama_sampler_init_grammar_lazy(
  ffi.Pointer<llama_vocab> vocab,
  ffi.Pointer<ffi.Char> grammar_str,
  ffi.Pointer<ffi.Char> grammar_root,
  ffi.Pointer<ffi.Pointer<ffi.Char>> trigger_words,
  int num_trigger_words,
  ffi.Pointer<llama_token> trigger_tokens,
  int num_trigger_tokens,
);