《李宏毅深度学习教程》（李宏毅老师推荐👍，苹果书🍎），PDF下载地址：https://github.com/datawhalechina/leedl-tutorial/releases

SGLang is a fast serving framework for large language models and vision language models.

Material for gpu-mode lectures

SuperCLUE: 中文通用大模型综合性基准 | A Benchmark for Foundation Models in Chinese

本项目旨在分享大模型相关技术原理以及实战经验（大模型工程化、大模型应用落地）

📖A curated list of Awesome LLM Inference Paper with codes, TensorRT-LLM, vLLM, streaming-llm, AWQ, SmoothQuant, WINT8/4, Continuous Batching, FlashAttention, PagedAttention etc.

基于ChatGLM-6B + LoRA的Fintune方案

baichuan LLM surpervised finetune by lora

基于ChatGLM-6B、ChatGLM2-6B、ChatGLM3-6B模型，进行下游具体任务微调，涉及Freeze、Lora、P-tuning、全参微调等

AIGC-interview/CV-interview/LLMs-interview面试问题与答案集合仓，同时包含工作和科研过程中的新想法、新问题、新资源与新项目

Tuning LLMs with no tears💦; Sample Design Engineering (SDE) for more efficient downstream-tuning.

通义千问VLLM推理部署DEMO

Tutorial on training, evaluating LLM, as well as utilizing RAG, Agent, Chain to build entertaining applications with LLMs.分享如何训练、评估LLMs，如何基于RAG、Agent、Chain构建有趣的LLMs应用。

关于书籍CUDA Programming使用了pycuda模块的Python版本的示例代码

An onnx-based quantitation tool.

后端面试题汇总（Python、Redis、MySQL、PostgreSQL、Kafka、数据结构、算法、编程、网络）

关于python的面试题

免费的闯关式 SQL 自学教程网站，从 0 到 1 带大家掌握常用 SQL 语法，纯前端实现，简单易学~

TensorRT-LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and build TensorRT engines that contain state-of-the-art optimizations to perform inference efficie…

C++ Library Manager for Windows, Linux, and MacOS

ChatGPT网址导航，分享免费好用AI网站！

Interview = 简历指南 + 算法题 + 八股文 + 源码分析

A Paddle OCR sample for Android by Paddle-Lite from https://github.com/PaddlePaddle/PaddleOCR 对 PaddleOCR 的简单封装，使其能够快速上手使用而不需繁琐的配置。

Compare multiple optimization methods on triton to imporve model service performance

A Supervised and Semi-Supervised Object Detection Library for YOLO Series

渡码 开源AI实战项目，抖音、B站、公众号同名 最新项目AI论文助手、AI算法助手

包括决策树和随机森林进行离职人员预测，Xgboost和lightGBM的应用

I am a full-stack engineer for AI projects, glad to share my experience. pratices make the top engineer.

Real time yolov8 Android demo by ncnn