Firefox AI 平台

此组件是一个基于 Transformers.js 和 ONNX 运行时 的实验性机器学习本地推理引擎。您可以使用此组件在浏览器上下文中利用推理运行时。要尝试一些推理任务，您可以参考 1000 多个模型，这些模型在 Hugging Face Hub 中可用，并且与该运行时兼容。

要启用引擎，请在 about:config 中将 browser.ml.enable 首选项翻转为 true，然后访问 about:inference（仅限 Nightly 版）或将以下代码片段添加到 Firefox 中的（特权）Javascript 代码或浏览器控制台中

const { createEngine } = ChromeUtils.importESModule("chrome://global/content/ml/EngineProcess.sys.mjs");
const engine = await createEngine({taskName: "summarization"});
const request = { args:  ["This is the text to summarize"]};
const res = await engine.run(request);
console.log(res[0]["summary_text"]);

了解有关该平台的更多信息

• 架构
• API
• 通知
• 模型管理