当前位置: 首页 >  快讯  >  正文

Gartner调查显示,生成式AI已成企业面临的重大新兴风险

来源:Gartner(2023年8月)生成式AI的大规模普及Gartner此前已经确定了生成式AI的六大风险,以及与功能保障相关的四大AI监管领域。Gartner专家表示,在管理企业风险方面,必须解决以下三大核心难题:知识产权Xu解释道,“被输入给生成式AI工具的信息,可以作为其训练数据集的一部分。也就是说,其中包含的敏感或机密信息可能最终会被输出给其他用户。此外,使用这些工具生成的输出,也很可能会在无意间侵犯其他工具使用者的知识产权。”解决问题的关键,是教育企业领导者在使用此类工具时保持谨慎态度和透明公开,以便立足生成式AI工具的输入和输出层面妥善控制知识产权风险。数据隐私生成式AI工具可能会在不事先通知的情况下,与其他第三方(例如供应商或服务提供商)共享用户信息,而这很可能违反多个司法管辖区的隐私法条款。例如,中国和欧盟已经开始实施监管,美国、加拿大、印度和英国等国家也提出了监管建议。网络安全Xu指出,“黑客总是出于自己的目的积极测试新技术,寻求能够损害新技术的方法,生成式AI当然也不例外。我们已经看到有生成式AI在诱导之下生成恶意软件和勒索软件代码的例子;还包括「提示词注入」攻击,即通过精心设计的提示词诈骗AI工具泄露自己本不该输出的信息。种种趋势正导致高级网络钓鱼攻击走向工业化、量产化的道路。”第三方生存风险的根源和影响Xu解释道,“持续不断的通货膨胀几乎不受加息政策的缓解,而且持续时间也比预期更长,这加剧了第三方机构的成本和利润压力。随着美国央行不断提高利率以对抗通胀,信贷紧缩周期必然随之来临,且很可能迫使供应商暂停运营、甚至因借贷成本上升而资不抵债。”如果经济状况普遍恶化,也可能导致需求进一步下降,从而影响第三方供应商的生存能力、或者是及时交付商品/服务的能力。Gartner专家指出了由第三方生存问题引发的三种潜在后果,供风险管理者根据实际情况进行监控:关键投入与材料损失:如果第三方供应商因为宏观经济形势而提高价格,则会引发关键投入与材料方面的显著损失,因为第三方会更青睐愿意支付更高价格的客户。财务规划假设或将不成立:当供应商提高价格或者意外倒闭时,原本的成本假设将不再成立,因此需要调整成本并提高获取商品/服务的价格。供应链之外的挑战:各合作伙伴(包括托管服务提供商、商业合作伙伴、债权人或者技术供应商)可能会收缩甚至停止正常运营,给客户方的业务运转造成重大影响。 责任编辑:庞桂玉   时间:2023-08-11 19:29:33

这项调查涵盖249名企业风险高层管理人员,汇总出2023年第二季度最严峻的五大新兴风险。


(资料图)

根据Gartner公司发布的数据,生成式AI(包括OpenAI ChatGPT和谷歌Bard)的大规模普及已经成为2023年第二季度企业风险管理者们最关注的问题。

Gartner风险与审计实践研究总监Ran Xu表示,“在我们第二季度的调查当中,生成式AI已经成为第二大常见风险,这也是其首次出现在风险因素的前十名中。由此看来,随着公众认知和生成式AI工具普及度的快速增长,再结合潜在用例的巨大广度,这些工具带来的潜在风险已经不容小觑。”

2023年5月,Gartner对249名企业风险高层管理人员进行了调查,其中提出20种新兴风险的基准观点。这份季度新兴风险报告提出了这些风险的潜在影响、时间范围、关注程度和感知机会等细节信息。

而在第二季度的最新调查当中,第三方生存能力成为各类组织最为关注的首要新兴风险(见表1)。财务规划不确定性排名第三,位列第四的则是云集中风险。对中国的贸易紧张局势排名第五,具体又分为当前宏观经济疲软,以及因地缘政治的广泛波动所引发的现实影响与技术担忧。

2023年第二季度最常被提及的五大新兴风险

Gartner调查显示,生成式AI已成企业面临的重大新兴风险

来源:Gartner(2023年8月)

生成式AI的大规模普及

Gartner此前已经确定了生成式AI的六大风险,以及与功能保障相关的四大AI监管领域。Gartner专家表示,在管理企业风险方面,必须解决以下三大核心难题:

知识产权Xu解释道,“被输入给生成式AI工具的信息,可以作为其训练数据集的一部分。也就是说,其中包含的敏感或机密信息可能最终会被输出给其他用户。此外,使用这些工具生成的输出,也很可能会在无意间侵犯其他工具使用者的知识产权。”

解决问题的关键,是教育企业领导者在使用此类工具时保持谨慎态度和透明公开,以便立足生成式AI工具的输入和输出层面妥善控制知识产权风险。

数据隐私

生成式AI工具可能会在不事先通知的情况下,与其他第三方(例如供应商或服务提供商)共享用户信息,而这很可能违反多个司法管辖区的隐私法条款。例如,中国和欧盟已经开始实施监管,美国、加拿大、印度和英国等国家也提出了监管建议。

网络安全Xu指出,“黑客总是出于自己的目的积极测试新技术,寻求能够损害新技术的方法,生成式AI当然也不例外。我们已经看到有生成式AI在诱导之下生成恶意软件和勒索软件代码的例子;还包括「提示词注入」攻击,即通过精心设计的提示词诈骗AI工具泄露自己本不该输出的信息。种种趋势正导致高级网络钓鱼攻击走向工业化、量产化的道路。”

第三方生存风险的根源和影响

Xu解释道,“持续不断的通货膨胀几乎不受加息政策的缓解,而且持续时间也比预期更长,这加剧了第三方机构的成本和利润压力。随着美国央行不断提高利率以对抗通胀,信贷紧缩周期必然随之来临,且很可能迫使供应商暂停运营、甚至因借贷成本上升而资不抵债。”

如果经济状况普遍恶化,也可能导致需求进一步下降,从而影响第三方供应商的生存能力、或者是及时交付商品/服务的能力。Gartner专家指出了由第三方生存问题引发的三种潜在后果,供风险管理者根据实际情况进行监控:

关键投入与材料损失:如果第三方供应商因为宏观经济形势而提高价格,则会引发关键投入与材料方面的显著损失,因为第三方会更青睐愿意支付更高价格的客户。财务规划假设或将不成立:当供应商提高价格或者意外倒闭时,原本的成本假设将不再成立,因此需要调整成本并提高获取商品/服务的价格。供应链之外的挑战:各合作伙伴(包括托管服务提供商、商业合作伙伴、债权人或者技术供应商)可能会收缩甚至停止正常运营,给客户方的业务运转造成重大影响。

X 关闭

Copyright ©  2015-2023 京津冀造纸网版权所有  备案号:京ICP备2022022245号-12   联系邮箱:434 922 62 @qq.com