随文摘选 AI 核心技术与应用分享直播中,企业用户对 AI 有关问题与 专家的 10 问 10 答:

1、 如何给数据分析师提供智能化推荐?

专家: 主要满足降低数据使用门槛,数据分析师建模这一侧功能,一方面帮助丰富元数据、实现自然语言查询、纠正语法错误、提问业务问题、数据目录中查找视图、根据使用习惯推荐、数据准备时数据处理推荐等,也在持续覆盖更多使用场景,包括后台管理、元数据管理等,已纳入到产品迭代发展中。可以用 AI SDK 开发 ,构建更高级、更个性化、更丰富的应用。

2、进行数据管理和调用时, 平台如何确保数据安全性和合规性,权限部分如何设计?

专家:权限管控是虚拟跨库查询难点之一, 能够解决的很好,提供行、列、单元格细颗粒度的权限管控,安全遮罩,自定义标签设定安全规则等能力,支持除了传统的基于角色的访问(ABAC,-based ),还可以基于属性(IP 地址、程序接口等)(RBAC,Role-Based )进行身份验证和授权机制。

3、 产品包括大模型打包吗?

专家: 定位数据管理平台,不包括 LLM,集成三方 LLM 开放使用。非官方集成的 LLM,只要符合 open API 标准即可兼容,推荐上下文 token 长度较长的效果更好些。

4、 产品会整合企业数据吗?是提供 DSL 查询语言,通过大模型适配方式进行 AI 数据输出是吗?

专家: 是数据虚拟化平台与元数据平台,保存企业不同数据源的元数据,通过了解元数据构建成本最优路径的数据查询,实现实时、快速的业务交付,并不保存企业的业务数据。增加 LLM 能力来降低对用户的技术要求,其工作方式为:用户的问题流经 ,通过 LLM 了解元数据, 生成查询重写,到数据源查询并返回结果。 的查询语言 VQL 是 SQL 超集,增加了管理方面的语法和指令。

5、 是否支持大量并发使用,而且能够秒级返回?

专家: 默认情况是优化查询后用数据源资源进行计算和存储, 本身二次处理的量不大,如果计算量大可以通过集成 MPP 引擎完成,大多数情况下的性能短板不在 而在数据源侧,因此不用过度担心 的并发和带宽问题。

6、 对源数据语义是否不需要任何配置?如何理解各个数据之间的关系和对于业务术语的理解?

专家:仅需要配置数据源表的映射,数据系统里表的描述、依赖关系都会带进来。AI SDK 从 取表的名称、描述、字段、字段描述,允许采集示例数据的话,可在指定的条数范围内采集,有助于 AI SDK 理解所有业务对象间的关系,通过 LLM token 方式,存到向量数据库,判断近似性等实现。如果公司内有特别的业务术语,可以通过 SDK 配置文件,在环境相关的 配置中,放入同义词、近义词等。

7、VQL 与 AI SDK 之间是什么关系?

专家:VQL 是一种通过 JDBC 在 平台上执行的脚本语言,其语法与 SQL 类似,同时也是标准 SQL 的超集。也就是说标准 SQL(包括查改删)就是 VQL 的一部分。此外 VQL 额外增加了 平台的管理脚本,所以从用户管理到内容管理都可以用 VQL 脚本来执行。对于高级用户来说,可以用 VQL 结合程序来做到 平台的自动化管理。而对于日常用户来讲,用 Web UI 也能做到大多数的功能,无须亲自写 VQL。而 AI SDK 是 新推出的一组 ,它提供一组接口简化企业构建自己 AI Agent 的难度。AI SDK 包括了针对 平台,大语言模型,向量数据库的配置文件,以及内置向量数据库和 AI 编排的组件,把构建 AI Agent 的一些必须步骤包装起来,开发者通过这些接口可以直接获得元数据,查询语义相似性,询问元数据问题,询问数据问题等。VQL 和 AI SDK 是面向不同应用场景的接口。

8、 在解决大模型幻觉方面有哪些优势?在数据分析时,对于数据准确性如何保证?

专家:大模型迭代很快,上下文长度越来越长,结果越来越精准,业界通常基准为满足可用标准 85% 以上,关键在于回答问题时需要给出解释,比如生成的 SQL 是什么?便于检查。如何保证接近 85%、90% 可用标准?一方面需要精准元数据, 元数据平台可以大大补充和丰富元数据,基于 LLM 实现更精准答案,另一方面 提示词工程写得非常细致。当然还有一些成本更高的方式,比如采用针对企业语境的 LLM。

9、 回支持 查询语法吗?

专家: 引擎本身执行的是 VQL,这是一种类似 的语法,并额外增加了许多管理的功能。对于自然语言的查询,我们需要通过结合大语言模型和 AISDK 来实现, 丰富的元数据资源可以让大语言模型生成更加准确的 VQL,然后在 执行。

10、在哪可以找到 AI SDK 源代码?

专家:AI SDK 的源代码已在 上开源

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

———END———
限 时 特 惠: 本站每日持续更新海量各大内部创业教程,永久会员只需109元,全站资源免费下载 点击查看详情
站 长 微 信: nanadh666

声明:1、本内容转载于网络,版权归原作者所有!2、本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。3、本内容若侵犯到你的版权利益,请联系我们,会尽快给予删除处理!