12月22日消息,据外媒报道,OpenAI成立了“防备(Preparedness)”团队,作为加强人工智能安全措施的综合战略的一部分。
此举是由于人们越来越担心人工智能技术的安全使用及其对最终用户的影响。OpenAI团队关注的一个重要领域是维护公司的安全,以及如何控制其政策部门。这对于通过分别预测和检查强大的人工智能模型来解决日益增加的风险至关重要。
通过这个过程,技术团队可以很容易地建立一个强大的系统,以防止此类事件在人工智能应用中继续发生。12月18日发布的一篇博客文章中的信息揭示了OpenAI对团队关于报告审查的指示。
在成功审查报告后,团队将把结果发送给公司的官员和董事会,以建立有效的决策。
除了OpenAI,其他一些受欢迎的科技公司也一直致力于在其业务中实施人工智能的安全性。涉及的公司包括谷歌DeepMind、IBM、Salesforce、Adobe、亚马逊、Meta和微软。