人大代表谈“养龙虾” 需正确认识与清晰提示
谈及最近流行的“养龙虾”现象,全国人大代表、华中科技大学校长尤政表示,用户需要对这种人工智能工具有正确的认识,软件提供商也应对可能造成的损害有明确的提示。他认为,使用这类工具时,用户应对其结论的可信度有清晰的认识,并对工具可能带来的问题保持警惕。

尤政指出,安全是人工智能领域必须面对的问题。人工智能本质上是一个处理信息并进行推测的工具,最终目的是服务于人。“养龙虾”实际上是一种智能体,它根据用户的指令调动资源来给出结论。在这个过程中,可能会访问一些地方或动用用户授权的权利,甚至做出一些未直接授权的行为。因此,用户在使用前需充分了解其潜在风险。
作为软件提供商,应像烟盒上的警告一样,清楚地告知用户“养龙虾”可能带来的负面影响。不能让用户在不知情的情况下使用该工具,导致潜在危害发生后推卸责任。此外,还需加强人工智能领域的立法工作,对于不可控或未知结果的技术,应在限定条件下使用,避免为了商业利益而推荐给公众试错。
关于深圳龙岗出台的“龙虾十条”,尤政认为,政府在制定相关政策时应当承担起相应的责任,确保这些规定能够在适当的范围内实施。如果是由个人自行使用,则用户需对自己的行为负责。

