Loading...
大模型术语本文主要简述一下“蒸馏”、“RAG”、“Embedding model”、“LLM model”的定义,选取和调优,适用性和局限性;考虑到后续大概率是多样化AI Agent的时代,但是基本上都是拿来用的话,要注意升级和平滑迁移的问题,同时也要考虑是否可以通过混合LLM的权重结合业务场景做垂直落地。蒸馏与量化模型蒸馏(Model Distillation)和模型量化(Model Qu...
从零构建向量数据库本书主旨在于强化读者对向量数据库的认识,加深对于目前AI前置工程的步骤理解。向量数据库基础万物皆可向量化,通过固定指标、分化多个坐标参数来形容事物,从而确定事物之间的相似度、关系和距离。余弦相似度——衡量两者在方向上的相似度(无关标量)内积——可以用于确定向量在某些特征上面的绝对数值欧式距离——确认两个向量之间的差异程度应用案例:以图搜图——图片转为向量形式,相似度计算,找...