OpenAI 的使命、文化和价值观——最终的颠覆者？
Posted: Wed Dec 04, 2024 3:37 am
OpenAI是人工智能（AI）领域的主要参与者，被认为是开发先进AI技术的先驱。
它的贡献，包括 GPT-3 和 GPT-4 模型，为自然语言处理和机器学习树立了新的标准，影响了广泛的应用并推动了不同行业的创新。
OpenAI 的核心价值观侧重于几个关键原则，包括管 印度商务传真列表 理安全、解决问题和以客户为中心。本文将探讨 OpenAI 努力背后的使命、其主要核心价值观以及这些原则如何反映在其运营中。
获取最新的创业新闻，直接发送到您的收件箱
通过 Startups.co.uk 的每周新闻通讯了解热门商业新闻
姓名
电子邮件
订阅
通过注册接收我们的新闻通讯，您同意我们的隐私政策。您可以随时取消订阅。
本文将涵盖：
OpenAI 的诞生及其使命
OpenAI 是否秉承其核心价值观？
OpenAI 核心价值观面临的挑战和批评
探索 OpenAI 的内部文化
尽管 OpenAI 在 2022 年发布 ChatGPT 产品后人气飙升，但实际上它早在 2015 年就由一群知名科技领袖和研究人员创立，其中包括 Elon Musk、Sam Altman、Greg Brockman 和 John Schulman。当时，其最初的使命宣言是“以最有可能造福全人类的方式推进数字智能，不受产生财务回报需求的限制。”
然而，随着 2019 年 OpenAI LP 的成立，OpenAI 从非营利组织重组为“上限利润”模式，这一使命也随之改变。据该公司博客称，这是为了确保它能够筹集资金来实现其使命，同时仍牢记其非营利性迭代的治理和监督。如今，OpenAI 的使命只是“确保人工智能（通常比人类更聪明的 AI 系统）造福全人类”。
OpenAI 通过其一系列 AI 产品和服务来实现这一使命。这些包括：
ChatGPT：基于大型语言模型 (LLM) 的人工智能聊天机器人，经过来自互联网的大量数据训练，可以回答问题并创建书面内容（例如文章、论文和社交媒体帖子）。
生成式预训练 Transformer 4（GPT-4）：一种大规模语言模型，建立在其前辈（如 GPT-3）的优势之上，但在理解、生成和与自然语言交互方面有了显着的改进。
DALL·E 2：一种先进的AI图像生成模型，旨在仅基于文本提示来创建高度逼真的图像和艺术品。
耳语：一种自动语音识别 (ASR) 系统，可将口语转录为跨多种语言、方言和口音的高精度书面文本。
OpenAI 的价值观指导着其对人工智能技术的研究、开发和部署，并体现了公司确保人工智能造福每个人的承诺。
在如何体现这些价值观方面，OpenAI 的使用政策制定了指导方针，以确保其 AI 技术得到负责任和合乎道德的使用。这些通用政策包括遵守法律（例如不侵犯任何人的隐私或从事任何非法活动），不使用其平台宣传自杀、自残或任何伤害他人的行为，不将输出分发给诈骗、欺凌、骚扰、歧视或宣传仇恨言论。该政策旨在通过概述使用其服务（例如 ChatGPT 和 OpenAI API）的具体规则、对有害应用程序实施限制以及鼓励用户使用与其使命相符的技术来防止滥用并促进安全。
OpenAI 的核心价值包括：
AGI 重点：构建对人类产生积极影响的安全通用人工智能 (AGI)。这意味着开发功能强大、符合人类价值观且设计为在现实环境中安全运行的 AGI 系统。
紧张而顽强：以不懈的努力承担艰巨的工作，解决人工智能领域的复杂和具有挑战性的问题，同时拥抱敏捷和适应性的文化。
规模：这意味着解决问题并创造可以在全球范围内运作的解决方案——设计和开发可以应对重大挑战并产生广泛影响的人工智能技术。
创造人们喜爱的东西：公司致力于创造能引起人们共鸣并造福人们的产品和技术。它强调以用户为中心的设计以及开发直观、易用且对用户有价值的人工智能系统和工具的重要性。
团队精神：强调团队合作和协作在 OpenAI 内部文化中的重要性，相信实现复杂目标和推动创新需要集体努力和相互支持。
OpenAI 核心价值观面临的挑战和批评
尽管 OpenAI 有着强大的核心价值观，即创造安全的技术和扩展解决方案以应对全球挑战，但它也因没有完全将这些价值观付诸实践而受到批评。最值得注意的是，人们批评该公司在偏见、安全以及创新与社会影响之间的平衡方面存在道德问题。
ChatGPT 的种族偏见
在其 ChatGPT 工具被指控存在种族偏见后，该公司“制造人们喜爱的东西”的核心价值观可能会受到质疑。
《新科学家》杂志的一篇文章报道称，该工具在为购房者和租房者提供建议时表现出种族偏见——经常向美国的非裔美国人推荐低收入社区。
《科学美国人》也对它进行了测试，文章作者尝试了它的讲故事功能，以揭示其训练者的偏见。ChatGPT 被要求生成六组犯罪故事，一组的关键词是“黑人”，另一组是“白人”。故事之间的差异是显而易见的，包括带有“黑人”这个词的故事有着“漆黑”的街道和小巷的阴暗背景，而带有“白人”提示的故事则描述了“宁静”和“田园诗般的”郊区。
此外，白人犯罪故事中还包含一种震惊和难以置信的感觉，因为犯罪让曾经愉快的社区“黯然失色”，而黑人故事中并没有出现这种情况。大多数黑人故事还涉及某种形式的肢体冲突，而白人故事中只有六分之一发生了这种情况。
滥用其技术
OpenAI 的 AGI 重点是其核心价值，但其 AI 技术的潜在滥用一直是一个重大问题。该公司因未充分解决其模型可能被以有害方式使用的问题以及未实施足够的保护措施以防止滥用而受到批评。然而，有报道表明，OpenAI 已经承认使用其工具存在一定程度的风险。
2024 年 9 月，有报道称该公司的最新模型“显著”增加了人工智能被滥用于制造生物武器的风险。这些被称为 o1 的新模型是为了解决复杂的数学问题和回答科学研究问题而开发的。然而，该公司承认，这些模型对于与化学、生物、放射和核武器 (CBRN) 相关的问题具有“中等风险”。
它的贡献，包括 GPT-3 和 GPT-4 模型，为自然语言处理和机器学习树立了新的标准，影响了广泛的应用并推动了不同行业的创新。
OpenAI 的核心价值观侧重于几个关键原则，包括管 印度商务传真列表 理安全、解决问题和以客户为中心。本文将探讨 OpenAI 努力背后的使命、其主要核心价值观以及这些原则如何反映在其运营中。
获取最新的创业新闻，直接发送到您的收件箱
通过 Startups.co.uk 的每周新闻通讯了解热门商业新闻
姓名
电子邮件
订阅
通过注册接收我们的新闻通讯，您同意我们的隐私政策。您可以随时取消订阅。
本文将涵盖：
OpenAI 的诞生及其使命
OpenAI 是否秉承其核心价值观？
OpenAI 核心价值观面临的挑战和批评
探索 OpenAI 的内部文化
尽管 OpenAI 在 2022 年发布 ChatGPT 产品后人气飙升，但实际上它早在 2015 年就由一群知名科技领袖和研究人员创立，其中包括 Elon Musk、Sam Altman、Greg Brockman 和 John Schulman。当时，其最初的使命宣言是“以最有可能造福全人类的方式推进数字智能，不受产生财务回报需求的限制。”
然而，随着 2019 年 OpenAI LP 的成立，OpenAI 从非营利组织重组为“上限利润”模式，这一使命也随之改变。据该公司博客称，这是为了确保它能够筹集资金来实现其使命，同时仍牢记其非营利性迭代的治理和监督。如今，OpenAI 的使命只是“确保人工智能（通常比人类更聪明的 AI 系统）造福全人类”。
OpenAI 通过其一系列 AI 产品和服务来实现这一使命。这些包括：
ChatGPT：基于大型语言模型 (LLM) 的人工智能聊天机器人，经过来自互联网的大量数据训练，可以回答问题并创建书面内容（例如文章、论文和社交媒体帖子）。
生成式预训练 Transformer 4（GPT-4）：一种大规模语言模型，建立在其前辈（如 GPT-3）的优势之上，但在理解、生成和与自然语言交互方面有了显着的改进。
DALL·E 2：一种先进的AI图像生成模型，旨在仅基于文本提示来创建高度逼真的图像和艺术品。
耳语：一种自动语音识别 (ASR) 系统，可将口语转录为跨多种语言、方言和口音的高精度书面文本。
OpenAI 的价值观指导着其对人工智能技术的研究、开发和部署，并体现了公司确保人工智能造福每个人的承诺。
在如何体现这些价值观方面，OpenAI 的使用政策制定了指导方针，以确保其 AI 技术得到负责任和合乎道德的使用。这些通用政策包括遵守法律（例如不侵犯任何人的隐私或从事任何非法活动），不使用其平台宣传自杀、自残或任何伤害他人的行为，不将输出分发给诈骗、欺凌、骚扰、歧视或宣传仇恨言论。该政策旨在通过概述使用其服务（例如 ChatGPT 和 OpenAI API）的具体规则、对有害应用程序实施限制以及鼓励用户使用与其使命相符的技术来防止滥用并促进安全。
OpenAI 的核心价值包括：
AGI 重点：构建对人类产生积极影响的安全通用人工智能 (AGI)。这意味着开发功能强大、符合人类价值观且设计为在现实环境中安全运行的 AGI 系统。
紧张而顽强：以不懈的努力承担艰巨的工作，解决人工智能领域的复杂和具有挑战性的问题，同时拥抱敏捷和适应性的文化。
规模：这意味着解决问题并创造可以在全球范围内运作的解决方案——设计和开发可以应对重大挑战并产生广泛影响的人工智能技术。
创造人们喜爱的东西：公司致力于创造能引起人们共鸣并造福人们的产品和技术。它强调以用户为中心的设计以及开发直观、易用且对用户有价值的人工智能系统和工具的重要性。
团队精神：强调团队合作和协作在 OpenAI 内部文化中的重要性，相信实现复杂目标和推动创新需要集体努力和相互支持。
OpenAI 核心价值观面临的挑战和批评
尽管 OpenAI 有着强大的核心价值观，即创造安全的技术和扩展解决方案以应对全球挑战，但它也因没有完全将这些价值观付诸实践而受到批评。最值得注意的是，人们批评该公司在偏见、安全以及创新与社会影响之间的平衡方面存在道德问题。
ChatGPT 的种族偏见
在其 ChatGPT 工具被指控存在种族偏见后，该公司“制造人们喜爱的东西”的核心价值观可能会受到质疑。
《新科学家》杂志的一篇文章报道称，该工具在为购房者和租房者提供建议时表现出种族偏见——经常向美国的非裔美国人推荐低收入社区。
《科学美国人》也对它进行了测试，文章作者尝试了它的讲故事功能，以揭示其训练者的偏见。ChatGPT 被要求生成六组犯罪故事，一组的关键词是“黑人”，另一组是“白人”。故事之间的差异是显而易见的，包括带有“黑人”这个词的故事有着“漆黑”的街道和小巷的阴暗背景，而带有“白人”提示的故事则描述了“宁静”和“田园诗般的”郊区。
此外，白人犯罪故事中还包含一种震惊和难以置信的感觉，因为犯罪让曾经愉快的社区“黯然失色”，而黑人故事中并没有出现这种情况。大多数黑人故事还涉及某种形式的肢体冲突，而白人故事中只有六分之一发生了这种情况。
滥用其技术
OpenAI 的 AGI 重点是其核心价值，但其 AI 技术的潜在滥用一直是一个重大问题。该公司因未充分解决其模型可能被以有害方式使用的问题以及未实施足够的保护措施以防止滥用而受到批评。然而，有报道表明，OpenAI 已经承认使用其工具存在一定程度的风险。
2024 年 9 月，有报道称该公司的最新模型“显著”增加了人工智能被滥用于制造生物武器的风险。这些被称为 o1 的新模型是为了解决复杂的数学问题和回答科学研究问题而开发的。然而，该公司承认，这些模型对于与化学、生物、放射和核武器 (CBRN) 相关的问题具有“中等风险”。