llamacpp

参考文档，资料汇总

1. ggml 简介,gg本人写的博客
2. llama.cpp源码解读–cgraph计算图与sched后端调度机制详解

RISC-V Base Vector Extension Document

在线Intrinsics

博客记录

1. llama.cpp k系列量化方法代码解析- 知乎

一点C++基础

struct simple_model {
  // 成员变量...
  // 构造函数：与 struct 同名，没有返回值类型
  simple_model(const std::string & backend_name) {
    // 初始化代码...
  }
  // 析构函数：前面有 ~ 符号
  ~simple_model() {
    // 清理代码...
  }};

杂七杂八的附录

• 打印计算图：ggml_graph_print(gf) ggml_graph_dump_dot(gf, NULL, "debug.dot")打印成graphviz 的 dot 文件格式 dot文件图片渲染