llama_dart_mtp_init_with_draft_model function

  1. @Native<Pointer<llama_dart_mtp> Function(Pointer<llama_model>, Pointer<llama_context>, llama_context_params, Int32, Int32, Float, Bool)>(ffi.Pointer<llama_model>, ffi.Pointer<llama_context>, llama_context_params, ffi.Int32, ffi.Int32, ffi.Float, ffi.Bool)>()
Pointer<llama_dart_mtp> llama_dart_mtp_init_with_draft_model(
  1. Pointer<llama_model> draft_model,
  2. Pointer<llama_context> ctx_tgt,
  3. llama_context_params ctx_params,
  4. int draft_token_max,
  5. int draft_token_min,
  6. double min_probability,
  7. bool backend_sampling,
)

Implementation

@ffi.Native<
  ffi.Pointer<llama_dart_mtp> Function(
    ffi.Pointer<llama_model>,
    ffi.Pointer<llama_context>,
    llama_context_params,
    ffi.Int32,
    ffi.Int32,
    ffi.Float,
    ffi.Bool,
  )
>()
external ffi.Pointer<llama_dart_mtp> llama_dart_mtp_init_with_draft_model(
  ffi.Pointer<llama_model> draft_model,
  ffi.Pointer<llama_context> ctx_tgt,
  llama_context_params ctx_params,
  int draft_token_max,
  int draft_token_min,
  double min_probability,
  bool backend_sampling,
);