人工智能重新数据中学习会更好

只管天生式人工智能（Generative AI）发达发展，但企业采取大型措辞模型（LLM）对专有数据进行实时决策的速率一贯很慢。
紧张寻衅有两个方面。

首先，人们担心与ChatGPT和Bard等开放系统共享知识产权和敏感信息时的数据安全。
其次，设计将批处理和流式事情流相结合的高效系统的繁芜性意味着人工智能运用程序无法实行增量更新来修正初步结果。
这将其知识冻结在一个时候，使其不适宜在制造业、金融做事业和物流业等行业，他们须要根据准确、实时的数据做出决策。

Pathway的LLM-App通过许可组织基于实时数据源构建保护隐私的相应式人工智能运用程序，战胜了这些寻衅。
它可以利用你自己的私有LLM或公共API，基于专有数据源对用户查询供应类似人类的相应，使数据在其原始存储位置保持安全和不受滋扰。
这意味着运用程序所有者保留对输入数据和运用程序输出的完备掌握权，使实在用于涉及敏感数据和知识产权的用例。

一些感兴趣的用例涉及利用大型措辞模型（LLM）对企业数据进行索引和搜索，例如，用于检索有关规则、法规或限定的最新信息，同时掩护数据隐私。
另一个强大的用例来自于将流式传输用例与非构造化源（如PDF文件）中的信息稠浊的能力，这有助于企业用户开释其数据源的全部代价。

LLM-App还支持将LLM投入生产的企业需求，例如LLM监控、本钱监控，或基于业务需求的A/B测试模型需求。

降落繁芜性，构建30行以下的代码

LLM App显著降落了构建LLM运用程序的繁芜性。
运用程序可以在不到30行的代码中构建，而无需单独的矢量数据库，并且不须要范例的LLM的繁芜和碎片化堆栈。

相反，LLM运用程序处理和组织可以存储在云中或内部支配的文档，以构建“矢量索引”。
用户查询以HTTP REST要求的形式通过，然后利用索引查找干系文档，并利用自然措辞的OpenAI API或Hugging Face进行相应。

如果添加了新的信息，它会实时更新索引，并利用这些新知识回答未来的问题。
这确保了专有LLM根据最新的知识供应准确的答案。
这是由Pathway在Python中的运用程序层启用的，用于批处理和流式数据处理，从而启用用例，例如在之前讯问的问题答案发生变革时发送提示信息。
这开释了LLM实时学习的力量，由于提示信息是由文档或流中的新干系数据触发的。

Pathway首席实行官兼联合创始人Zuzanna Stamirowska评论说：“虽然许多企业一贯渴望采取LLM，但也存在许多风险，这些风险阻碍了LLM的采取。
从可能暴露IP或敏感数据，到根据过期的知识做出决策，对LLM运用程序的准确性和隐私性的担忧一贯难以战胜。
我们希望通过Python中的免费框架来构建人工智能运用程序，组织将能够开始利用专有数据构建用例，并促进LLM在企业中的利用。
”

Pathway聚焦开拓实时智能技能。
实时学习是通过一个有效且可扩展的引擎实现的，该引擎为LLM和机器学习模型供应动力。
这些模型会自动更新，这要归功于一个结合了流式数据和批处理数据的框架，该框架对开拓职员、数据工程师和数据科学家来说是用户友好和灵巧的。