• 我的订阅
  • 科技

吴恩达出手,开源最新Python包,一个接口调用OpenAI等模型

类别:科技 发布时间:2024-11-27 10:01:00 来源:机器之心Pro

吴恩达出手,开源最新Python包,一个接口调用OpenAI等模型

在构建应用程序时,与多个提供商集成很麻烦,现在 aisuite 给解决了。

用相同的代码方式调用 OpenAI、Anthropic、Google 等发布的大模型,还能实现便捷的模型切换和对比测试。

刚刚,AI 著名学者、斯坦福大学教授吴恩达最新开源项目实现了。

吴恩达出手,开源最新Python包,一个接口调用OpenAI等模型

吴恩达在推文中宣布了这一好消息开源新的 Python 包:aisuite!

这个工具可以让开发者轻松使用来自多个提供商的大型语言模型。

在谈到为何构建这个项目时,吴恩达表示构建应用时,发现与多个提供商集成非常麻烦。aisuite 正是为了解决这个问题而诞生的,用户只需通过更改一个字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),即可选择不同提供商的模型。

吴恩达出手,开源最新Python包,一个接口调用OpenAI等模型

项目地址:https://github.com/andrewyng/aisuite

项目一上线,大家纷纷表示「这对开发人员来说非常有用。」

吴恩达出手,开源最新Python包,一个接口调用OpenAI等模型

「超级方便!简化集成总是有益的,非常好的研究!」

吴恩达出手,开源最新Python包,一个接口调用OpenAI等模型

统一接口设计,支持多个 AI 提供商的模型

aisuite 使开发者能够通过标准化的接口轻松使用多个 LLM。其接口与 OpenAI 的类似,aisuite 可以很容易地与最流行的 LLM 交互并比较结果。

aisuite 是一个轻量级的包装器,它基于 Python 客户端库构建,允许用户在不修改代码的情况下,轻松切换并测试来自不同 LLM 提供商的响应。

目前,这个项目主要集中在聊天补全功能,未来将扩展到更多使用场景。

当前,aisuite 支持的提供商包括:

OpenAI Anthropic Azure Google AWS Groq Mistral HuggingFace Ollama

为了确保稳定性,aisuite 使用 HTTP 端点或 SDK 来与提供商进行调用。

安装

安装过程有多种选择。

下面是只安装基础包,而不安装任何提供商的 SDK。

pip install aisuite

带 Anthropic 支持的安装方式

pip install 'aisuite [anthropic]'

下面是将安装所有特定于提供商的库。

pip install 'aisuite [all]'

设置

开始使用时,你需要为打算使用的提供商获取 API 密钥。API 密钥可以作为环境变量设置,具体的使用方式可以参考 aisuite 的 examples 文件夹。

如果大家还不是很明白,可以参考下面简短的示例展示,即如何使用 aisuite 生成来自 GPT-4o 和 Claude-3-5-Sonnet 的聊天补全响应。

先设置 API 密钥:

export OPENAI_API_KEY="your-openai-api-key"export ANTHROPIC_API_KEY="your-anthropic-api-key"

使用 Python 客户端:

import aisuite as aiclient = ai.Client ()models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]messages = [ {"role": "system", "content": "Respond in Pirate English."}, {"role": "user", "content": "Tell me a joke."},]formodel in models:response = client.chat.completions.create (model=model,messages=messages,temperature=0.75)print(response.choices [0].message.content)

想要尝试的读者可以跟着原项目进行配置。如今,我们身处大模型时代,对于开发者而言,用一个统一的接口就能调用各种大模型,这给开发者们节省了大量的时间成本。

我们期待这种实用的开源项目越来越多,如果你有好的项目推荐,欢迎大家评论区留言。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-27 14:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

Anthropic开源MCP:大模型接入数据有了“统一插头”,Agent平台慌了?
...统一的方式来连接数据源和模型,主要靠企业用户、模型提供商和数据库供应商自己拿主意。开发者一般会写特定的Python代码或者用LangChain来让大模型连接数据库。由于每个大
2024-11-27 13:33:00
OpenAI断供引发“抢人战”,国内AI行业格局或将生变
...的崛起和OpenAI用户的迁移,厂商可能会寻求与云视频服务提供商合作,以提供更加全面、高效的服务。会畅通讯可抓住这一机遇
2024-06-26 17:53:00
大模型算力新选择——宝德AI服务器采用8颗英特尔Gaudi2加速器
...王将成为AI算力的新标准。作为中国领先的计算产品方案提供商,宝德计算将继续发挥AI服务器领域的技术优势和市场经验,携手英特尔等合作伙伴不断创新,探索大模型算力的更多选择,打造
2023-07-19 18:00:00
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
...,Meta 还正式发布了 Llama Stack Distribution,其可将多个 API 提供商打包在一起以便模型方便地调用各种工具或外部模型
2024-09-27 13:42:00
千元内最好的机器人开发者套件来了:地瓜机器人重磅发布RDK X5
...在深圳成功举办。作为业界领先的机器人软硬件通用底座提供商,地瓜机器人重磅推出面向“机器人+”时代的软硬件产品全家桶,包括专为新一代通用机器人而生的旭日5智能计算芯片、极致易用
2024-09-21 09:48:00
36氪首发 | 低代码平台「飞速创软」完成数千万元A2轮融资,由中新融创独家投资
36氪获悉,云原生全场景低代码及数字化基础设施提供商珠海飞速创软科技有限公司(以下简称“飞速创软”)宣布完成3000万元A2轮融资,本轮投资方为中新融创。此前,飞速创软曾获珠海正
2023-03-15 09:26:00
企业模型:中国To B市场的一道曙光
...交给AI。从2021年开始,百丽时尚开始与数据智能基础设施提供商滴普科技合作,一套名为“丽影”的数据应用系统诞生。2022年底
2024-01-02 20:14:00
Llama成大模型顶流,扎克伯格掀论战:玩开源,时代变了
...保持竞争力、高效性和开放性。 第三,Meta 与闭源模型提供商的一个关键区别在于,销售 AI 模型的访问权限并不是我们的商业模式。这意味着公开发布 Llama 不会削弱我们
2024-07-25 09:32:00
在医疗领域,谷歌 AI 出手了
...信息。据报道,FHIR 已被许多主要的电子健康记录 ( EHR ) 提供商采用。\" 我们希望这套组件能够推动解决方案的发展,支持医疗工作者在各地提供数据驱动的、以病人为中心
2023-03-17 10:00:00
更多关于科技的资讯: