新闻内容是什么？
商界热衷于此类控制，因为尽管他们对生成式人工智能提高生产力的潜力感到谨慎兴奋，但他们担心该技术的局限性。根据 IBM 进行的一项调查，51% 的首席执行官正在填补与生成式人工智能相关的职位，而这些职位在今年之前并不存在。不过，根据 Riskonnect 的一项民意调查，只有 9% 的企业准备好应对与生成式人工智能相关的风险，包括隐私和知识产权问题。
WitnessAI 的技术采用了一些法规和保护措施，通过拦截员工与其雇主定制的生成式 AI 模型之间的互动来降低风险。这些模型不像 OpenAI 的 GPT-4 那样受 API 限制，而是与 Meta 的 Llama 3 类似。
阅读：2024 年值得关注的 10 大 AI ML 数据存储趋势
它为什么如此重要？
WitnessAI 提供多种模块供出售，每种模块都旨在解决生成式 AI 带来的特定威胁。其中一个模块允许企业制定政策，禁止特定团队的员工滥用生成式 AI 产品（例如要求提供预发布收益报告或复制和粘贴内部代码库）。另一个模块从模型提示中删除机密和专有信息，并采取措施保护模型免受可能导致其偏离脚本的攻击。
然而，从隐私的角度来看，WitnessAI 提出了一个挑战：在数据到达模型之前，它必须首先通过其平台传输。更重要的是，该公司提供工具来跟踪员工使用的模型、他们向模型提出的查询以及他们收到的答案。然而，这可能会带来新的隐私问题。
当被问及 WitnessAI 的隐私政策时，Caccia 表示，该平台经过加密货币和“隔离”，以隐藏客户详细信息。也许这会让消费者放心。担心 WitnessAI 平台的间谍能力的员工将面临更艰难的决定。
无论理由如何，调查显示，员工不喜欢被监视，并认为这会降低士气。三分之一的福布斯调查参与者表示，如果老板跟踪他们的所有信息和在线活动，他们会考虑辞职。
在其概念验证阶段，25 家早期企业用户证明了 Caccia 的说法，即人们对 WitnessAI 平台的兴趣一直很高，而且会持续下去。（直到第三季度才会向公众发布。）此外，WitnessAI 还从谷歌的企业风险投资部门 GV 和最初支持该公司的孵化器 Ballistic Ventures 获得了 2750 万美元的投资。
借助这笔资金，WitnessAI 希望到今年年底将员工人数从目前的 18 人增加一倍至 40 人。为了在新兴市场与 CalypsoAI 等其他初创公司以及 AWS、Google 和 Salesforce 等巨头在模型合规性和治理解决方案方面展开竞争，WitnessAI 需要扩大业务。
好处
1.WitnessAI 通过应用法规和保护措施来降低风险，确保生成式人工智能在企业中的安全使用。
2.企业可以使用WitnessAI制定政策，防止滥用AI，保护敏感数据和操作。
3. WitnessAI 跟踪 AI 的使用情况和查询，提供有价值的见解，同时维护加密货币、隔离的数据以解决隐私问题。
必读：什么是体验管理（XM）？
[To share your insights with us as part of editorial or sponsored content, please write to sghosh@martechseries.com]
WitnessAI 保护 GenAI 模型的方法一文首先出现在 AiThority 上。
资讯来源：由a0资讯编译自THECOINREPUBLIC。版权归作者A0资讯所有，未经许可，不得转载
