需求人群
LLM Compiler主要面向编译器研究人员和工程师,以及需要进行代码优化的开发者。它适合那些寻求通过深度学习技术提高代码效率和减小程序体积的专业用户。
使用场景
用于优化编译器生成的中间表示(IR)的代码大小。在开发新编译器技术时,预测最优的优化传递序列。将汇编代码反编译为LLVM IR,以便于进一步的代码分析和优化。
产品特色
预测LLVM优化对代码大小的影响生成最小化代码大小的优化传递列表从x86_64或ARM汇编代码生成LLVM IR在编译器优化任务中实现接近完美的输出复制提供7B和13B参数的模型以满足不同服务和延迟需求遵守Meta的许可证和可接受使用政策
使用教程
1安装必要的库,如transformers。2使用AutoTokenizer从预训练模型中加载分词器。3创建transformers.pipeline以设置文本生成的pipeline。4通过pipeline传递代码片段,并设置生成参数,如do_sample、top_k等。5获取生成的序列,并评估生成的文本以确定其适用性。