c definitions

Author: okaris

llama_cpp/_internals.py

@@ -106,7 +106,7 @@ def n_embd(self) -> int:
 
     def n_layer(self) -> int:
         return llama_cpp.llama_n_layer(self.model)
-    
+
     def dev_layer(self, il: int) -> LlamaBackendDev:
         return LlamaBackendDev(llama_cpp.llama_model_dev_layer(self.model, il))
 

llama_cpp/llama_cpp.py

@@ -1444,6 +1444,11 @@ def llama_model_n_embd(model: llama_model_p, /) -> int:
 def llama_model_n_layer(model: llama_model_p, /) -> int:
     ...
 
+# LLAMA_API int32_t llama_model_dev_layer  (const struct llama_model * model, int32_t il);
+@ctypes_function("llama_model_dev_layer", [llama_model_p_ctypes, ctypes.c_int32], ctypes.c_int32)
+def llama_model_dev_layer(model: llama_model_p, il: Union[ctypes.c_int32, int], /) -> int:
+    ...
+
 
 # LLAMA_API int32_t llama_model_n_head     (const struct llama_model * model);
 @ctypes_function("llama_model_n_head", [llama_model_p_ctypes], ctypes.c_int32)