SuperAPI AI 工具集
合作ENAI 行业资讯收藏
Skill 广场telnyx-ai-inference-javascript

telnyx-ai-inference-javascript

智能体与模型

查看项目

更新于 10-16 05:23

技能介绍

Telnyx AI Inference JavaScript 是 Telnyx 提供的 JavaScript SDK，用于在 JavaScript/Node.js 应用中访问 Telnyx 的 LLM 推理 API、嵌入（embeddings）能力，以及针对通话洞察与摘要的 AI 分析功能。以下按用途、主要能力、使用方式、适用场景和限制分段说明。

一、用途 该技能面向使用 JavaScript 的开发者，帮助其在应用中集成 Telnyx 的 AI 推理与嵌入接口。据资料，语音转文字端点与 OpenAI Transcription API 保持一致，聊天补全端点与 OpenAI Chat Completions API 保持一致，因此也可配合 OpenAI 的 JS 或 Python SDK 使用。资料未提供该技能的具体收费、价格或计费方式。

二、安装与初始化 安装命令：npm install telnyx 初始化示例： import Telnyx from 'telnyx'; const client = new Telnyx({ apiKey: process.env['TELNYX_API_KEY'], // This is the default and can be omitted }); 资料说明所有示例均假设 client 已按上述方式初始化。

三、主要能力

  1. 语音转文字：POST /ai/audio/transcriptions，示例模型为 distil-whisper/distil-large-v2，返回 duration（number）、segments（array[object]）、text（string）。
  2. 聊天补全：POST /ai/chat/completions，必填 messages；可选参数包括 api_key_ref、best_of、early_stopping、enable_thinking、frequency_penalty、guided_choice、guided_json、guided_regex、length_penalty、logprobs、max_tokens、min_p、model、n、presence_penalty、response_format、stream、temperature、tool_choice（none/auto/required）、tools、top_logprobs、top_p、use_beam_search。
  3. 会话管理：支持列出会话（GET /ai/conversations，支持 PostgREST 风格查询参数过滤）、创建会话（POST /ai/conversations，可选 metadata、name）、获取、更新元数据与删除会话（GET/PUT/DELETE /ai/conversations/{conversation_id}）。返回字段含 created_at、id（uuid）、last_message_at、metadata、name。
  4. 会话消息：新增消息（POST /ai/conversations/{conversation_id}/message，必填 role，可选 content、metadata、name、sent_at、tool_call_id、tool_calls、tool_choice）、获取消息（GET /ai/conversations/{conversation_id}/messages，返回 created_at、role（user/assistant/tool）、sent_at、text、tool_calls）。
  5. 会话洞察：获取某会话洞察（GET /ai/conversations/{conversation_id}/conversations-insights，返回 conversation_insights、created_at、id、status（pending/in_progress/completed/failed））。
  6. 洞察模板与分组：洞察模板支持列表（GET /ai/conversations/insights）、创建（POST，必填 instructions、name，可选 json_schema、webhook）、获取、更新、删除；洞察模板分组支持列表、创建（必填 name，可选 description、webhook）、获取、更新、删除，并支持将洞察分配/取消分配到分组。
  7. 嵌入：对 Telnyx Storage Bucket 执行嵌入（POST /ai/embeddings，必填 bucket_name，可选 document_chunk_overlap_size、document_chunk_size、embedding_model、loader）。支持文件类型包括 PDF、HTML、txt/非结构化文本、json、csv、音视频（mp3、mp4、mpeg、mpga、m4a、wav、webm，单文件最大 100mb）；不匹配的类型将作为非结构化文本尝试嵌入。
  8. 嵌入相关查询：列出嵌入任务（GET /ai/embeddings，状态含 queued、processing、success、failure、partial_success）、列出嵌入的 buckets（GET /ai/embeddings/buckets）、获取 bucket 内文件级嵌入状态（GET /ai/embeddings/buckets/{bucket_name}）、关闭某 bucket 的 AI 嵌入（DELETE，会删除该 bucket 全部嵌入并恢复为普通存储定价）、查询嵌入任务状态（GET /ai/embeddings/{task_id}）。
  9. 相似度搜索：POST /ai/embeddings/similarity-search，必填 bucket_name、query，可选 num_of_docs；当前唯一可用距离度量为余弦相似度，返回 0 到 1 的距离，距离越小越相似，返回 distance、document_chunk、metadata。
  10. URL 内容嵌入：POST /ai/embeddings/url，必填 url、bucket_name；会爬取并加载主 URL 及同域内最多 5 层子页面的内容到 Telnyx Cloud Storage bucket。
  11. 微调任务：支持列出微调任务（GET /ai/fine_tuning/jobs）、创建微调任务（POST，必填 model、training_file，可选 hyperparameters、suffix）、获取微调任务（GET /ai/fine_tuning/jobs/{job_id}）；任务字段含 created_at、finished_at、hyperparameters、id、model、organization_id、status（queued/running/succeeded/failed/cancelled）、trained_tokens、training_file。

四、使用方式与错误处理 使用前需初始化客户端。资料建议在生产代码中处理错误：网络错误（APIConnectionError）需检查连通性并重试；限流（RateLimitError，429）应等待后以指数退避重试，可通过 err.headers['retry-after'] 获取等待秒数；APIError 需读取 status 与 message，其中 422 为校验错误，应检查必填字段与格式。常见错误码：401 无效 API 密钥、403 权限不足、404 资源未找到、422 校验错误、429 限流。列表方法返回自动分页迭代器，可用 for await (const item of result) { ... } 自动遍历所有页。

五、适用场景 适用于需要在 JavaScript 项目中接入 LLM 推理、语音转写、文档与网页内容嵌入、相似度检索，以及基于会话的洞察分析（例如通话洞察与摘要）的开发者。聊天与转写端点与 OpenAI 接口一致，便于已有 OpenAI SDK 使用经验的团队迁移或复用。

六、限制 资料未提供价格、收费、免费额度、速率上限、可用模型清单、地域/平台支持范围以及自定义部署等具体信息。嵌入对不匹配类型文件按非结构化文本处理，音视频单文件上限 100mb；相似度搜索当前仅支持余弦相似度；URL 嵌入抓取同域最多 5 层子页面。以上均以资料明确内容为限，其余细节暂未提供。