过度依赖人工智能进行软件开发存在诸多风险，包括用于训练模型的数据可能存在偏差、网络安全威胁以及人工智能生成的代码中可能出现未经检查的错误。我们采访了多位专家，了解他们在将人工智能集成到软件开发生命周期中遇到的最大挑战以及他们如何应对这些挑战。

模型中的偏差

用于训练模型的数据中的偏差一直是人工智能领域的一个问题，人工智能辅助开发也不例外。

“由于人工智能是基于人类编写的数据进行训练的，因此它会复制并放大现有的偏见，”布朗大学工程学院创新管理与创业硕士项目主任兼教员贾娜·杜安 (Ja-Naé Duane) 表示。“如果在设计和测试过程中缺乏审慎的监督和多元化的视角，我们就有可能将排斥性因素嵌入到我们构建的系统中，”她说道。

Most Loved Workplace是一家提供职场认证的公司，它利用机器学习来分析员工情绪。但该公司很快发现，其模型会误读某些情绪语调或文化语言差异。

“我们不得不重新训练模型，根据我们自己研究的模型进行标记，并让人类参与进来测试是否存在偏见，”该公司创始人兼组织心理学家路易斯·卡特说。

卡特说：“我们的内部团队为此做了大量工作，我们创建了一个游戏平台，让每个人都能标记并添加自己对偏见的解读。我们改进了[BERT语言模型]，开发了我们自己的情绪和情感识别模型。如果我们没有发现这些问题，结果就会误导用户，损害产品的信誉。”

知识产权侵权

人工智能辅助开发及其可能引发的知识产权侵权问题会造成复杂的法律纠纷，尤其是在版权领域。由于人工智能模型可以利用包含部分受版权保护内容的海量数据集进行训练，因此它们生成的输出结果可能与现有受版权保护的材料高度相似，甚至构成侵权。这可能导致诉讼。

“目前这些模型是否侵犯知识产权仍存在不确定性，这绝对是一个风险，”产品设计公司Priority Designs的软件工程师Joseph Mudrak表示。“例如，OpenAI和Meta都正面临诉讼，这些诉讼都与它们模型所用数据的来源有关。”

美国律师协会指出，随着生成式人工智能的使用迅速增长，“针对生成式人工智能工具侵犯版权和其他知识产权的诉讼也随之增加，这可能会在该领域确立重要的法律先例。”

“目前市面上大多数人工智能辅助开发系统都基于大量数据进行训练，但这些数据的来源并不十分明确，”Banner & Witcoff律师事务所合伙人柯克·西格蒙（Kirk Sigmon）说道。西格蒙专攻人工智能领域，同时也从事一些编程和开发工作。“代码受版权保护，这意味着人工智能辅助开发系统很可能输出侵犯版权的代码，”西格蒙表示。

网络安全问题

人工智能辅助开发引入了潜在的网络安全风险，例如生成不安全的代码。如果使用包含缺陷或不安全示例的数据集训练人工智能模型，则这些模型可能会生成包含常见漏洞（例如 SQL 注入或跨站脚本攻击）的代码。

人工智能生成的代码也可能无意中包含敏感数据，例如客户信息或用户密码，从而将其暴露给潜在攻击者。使用敏感数据训练模型可能会导致生成的代码中意外泄露这些数据。

“从隐私和网络安全的角度来看，未经验证的 AI 生成的代码可能会给软件供应链带来严重的漏洞，”皮尔森·费迪南德律师事务所 (Pierson Ferdinand LLP) 的创始合伙人兼隐私和数据保护联席主席玛丽亚姆·梅塞哈 (Maryam Meseha) 表示。

“我们看到一些公司在不知情的情况下发布了带有嵌入式安全漏洞的功能，仅仅因为代码‘看起来没问题’或者通过了表面测试，”梅塞哈说。“事后修复这些问题的成本，或者更糟糕的是，处理数据泄露的成本，远远超过了最初获得的速度提升。”

虚假的自信

开发团队和领导者可能倾向于认为人工智能几乎总能做出正确的结果，因为他们相信自动化可以消除人为错误。这种盲目的自信可能会导致问题。

“人工智能增强方法，特别是使用生成式人工智能的方法，本质上容易出错，”卡内基梅隆大学软件工程研究所工程智能软件系统技术总监伊佩克·奥兹卡亚 (Ipek Ozkaya) 说。

“如果人工智能增强型软件开发工作流程没有被设计成能够预防、识别、纠正和解释这些错误，那么它们很可能会在以后变成噩梦，造成难以管理的技术债务，”奥兹卡亚说。

Most Loved Workplace 在其平台上使用 Claude Code、Sentry 和自定义 AI 模型等工具进行情绪和情感分析，但该公司对 AI 增强型开发抱有虚假的信心。

“克劳德和其他一些工具即使完全错误，听起来也似乎正确，”卡特说。“有一次，某个输出结果漏掉了逻辑循环中的一个重大边界情况。它通过了初步测试，但真正用户使用后就崩溃了。现在，所有人工智能处理过的东西都要经过多重人工审核。”

卡特说，公司曾收到过开发人员用 Claude 编写的代码，这些代码乍一看似乎没问题，但在高负载下却崩溃了。“当我问他们为什么做出某些选择时，他们解释不了——这些代码都是工具直接生成的，”他说。“从那以后，我们就明确表示：如果解释不了，就不要发布。”

本文链接：http://www.rhjmzc.cn/newsdetail_3400726.html