Flora Ma

Recent posts

• Pi Agent Harness 介绍

  Oct 3, 2026agentinfrapiagent-harness

  Pi 是一个极简的 Agent Harness 框架，按照分层 pi-ai -> pi-agent-core -> pi-coding-agent 循序渐进，本文我们结合源码探讨了 Pi 中的消息与工具协议的统一、Agent 循环的核心实现、会话的持久化设计与压缩机制以及Extension 扩展系统的相关问题

• 大语言模型接口协议

  Oct 1, 2026llminferenceopenai-apianthropic-api

  本文对比介绍了 Anthropic Messages API、OpenAI Chat Completions API 和 OpenAI Responses API 三种主流的大语言模型接口协议，并探讨了在考虑到 KV cache 复用的情况下如何更好的使用协议

• 对 asyncio 更详细的介绍

  Sep 8, 2026asynciopythonparallel-programmingconcurrency

  本文介绍了 asyncio 的基本使用以及背后的事件循环和调度机制，总结了协程之间的同步机制，并介绍了协程的常用场景，对于计算密集型的 python 任务可以通过 loop.run_in_executor 丢到进程池中

• 大语言模型推理和训练显存估算

  Sep 4, 2026llminferencetrainingmemory-estimation

  本文以 Qwen3-8B 为例，我们对其推理/训练占用的显存进行了分类和估算，可依据此来筛选可用的 GPU 机器

• Triton 学习笔记

  Aug 30, 2026tritongpukerneloptimizationcudaperformance

  本文介绍了如何编写 Triton 算子，列出了 Triton 的关键语法，然后介绍了 Triton 算子的优化流程，包括如何判断算子的正确性、如何准确测量性能以及如何识别瓶颈也优化。