隐私专家对微软最新的人工智能工具发出了警告

　　

　　

　　微软最热门的人工智能新功能引发了人们的担忧，即它可能会被坏人滥用。

　　本周，微软展示了一款名为“召回”的新工具，该工具适用于Windows电脑，可以充当个人“时光机”，让用户快速调出屏幕上曾经出现过的任何东西，比如文件、图像和网站。它不同于关键词搜索;该工具定期保存用户屏幕的截图，并将其直接存储在设备上。然后，它使用人工智能来处理数据并使其可搜索。

　　例如，如果有人之前搜索过一条绿色裙子或当地一家冰淇淋店的名字，他们可以要求该功能“回忆”屏幕上显示的他们的历史记录。

　　尽管所谓的语义搜索是人工智能向前迈出的一大步，但它出现的时候，行业发展如此之快，政府监管机构、企业和消费者仍在寻找如何负责任地使用这项技术。

　　马里兰大学(University of Maryland)专注于隐私研究的人工智能教授珍?戈尔贝克(Jen Golbeck)表示，如果手机落入坏人之手，召回功能可能会带来潜在的“噩梦”。

　　她说:“东西可能会留在你的设备上，但这并不意味着人们无法访问它。”“即使你使用隐身模式或清除你的历史记录，你也没有保护自己的选择，因为该工具可以访问你屏幕上的所有内容。”

　　英国数据保护和信息自由的独立监管机构——信息专员办公室(ICO)告诉CNN，它正在调查这个工具，“以了解保护用户隐私的保障措施。”

　　ICO在一份声明中表示:“我们希望组织对用户的数据使用方式保持透明，并且只在实现特定目的所必需的范围内处理个人数据。”

　　微软没有立即回应置评请求。微软首席执行官萨蒂亚·纳德拉在周一发布前接受《华尔街日报》采访时表示，网络搜索只能在微软的Edge网络浏览器上进行，而且截图永远不会离开用户的电脑。

　　他说:“你必须把两件事放在一起:这是我的电脑，这是我的召回——所有这些都是在本地完成的。”

　　市场研究公司CCS Insight的首席执行官杰夫?布拉伯(Geoff Blaber)表示，这让这个问题不那么令人担忧。

　　Blaber说:“一些人对这项功能的反对并不令人惊讶，但考虑到数据只保存在设备上，用户拥有完全的控制权，这是一种过度反应。”

　　有人可以在设备设置过程中决定是否开启该功能，还可以自定义哪些应用和网站可以被召回，并将其列入黑名单。

　　他说:“这些控制表明，该功能是以安全和隐私为核心的。”“召回不会吸引所有人，但所提供的效用可能很重要。”

　　潜在的恶意使用

　　但戈尔贝克指出，在某些情况下，这种保护可能还不够，比如身处敌对国家的记者、试图摆脱虐待关系的人、搜索敏感医疗信息的人，或者老板想要跟踪他们的员工。她认为，围绕该工具的问题可能会对工作场所产生最大的影响。

　　她补充说:“我们知道工作人员会监控我们在他们的设备上做什么，但很多人会在他们的工作电脑上做个人事情，所有这些都会被存档，IT部门可以看到，即使它只是停留在设备上。”

　　戈尔贝克说，尽管技术有好处，但它的发展往往没有考虑到恶意使用。

　　“我们在过去15年里看到的是，这些潜在的恶意用例中的每一个都以某种方式实现了，”她说。“人们会在不了解隐私风险的情况下使用这个很酷的功能——你所做的一切都会被永久记录下来。”

　　对指纹、面部识别和虹膜扫描等生物特征密码等功能的类似反应，过去也曾出现过。Blaber说，为了克服最初的一些担忧，微软及其合作伙伴需要在现实世界中证明该产品的价值、安全性和隐私性。

　　尽管如此，ABI research的高级研究总监米凯莱?门廷认为，这一功能是隐私方面的“倒退”。

　　她说:“认为黑客需要通过物理途径才能操纵‘回忆’的观点是短视的，因为有很多非常巧妙的方法可以让威胁行为者利用这样一个有价值的工具。”“找到方法所需要的只是时间和努力。”