提升AI模型输出的包容性

OpenAI促进包容性的方法

OpenAI已经采取措施来增强AI模型的输出多样性，包括实施保护措施和修改用户提示。例如，当用户请求在旧金山卡斯特罗区享受夜生活的酷儿夫妇的卡通插图时，OpenAI的ChatGPT会扩展提示，包括性别、种族和其他背景细节。这种方法旨在创建更具包容性和代表性的内容。

修改提示的挑战

虽然修改提示可能有所帮助，但如果实施不当，也可能引发不满和争议。当谷歌的生成AI平台Gemini修改用户提示，并生成黑人纳粹和其他非历史性内容时，遭到了强烈反对。然而，更有可能的是Gemini的工程师过度纠正了该工具最初过度生成白人男性图像的问题。这凸显了在修改提示时找到合适平衡的挑战，以确保包容性而不扭曲历史准确性。

对刻板印象和代表性的担忧

尽管努力改进模型数据并实施软件保护措施，但AI工具仍有可能持续化刻板印象和误代表少数群体。这可能对酷儿群体如何看待和理解自己产生不利影响。通过放大刻板印象，AI算法不仅可能向大众误代表少数群体，还可能限制酷儿社群中与成长和变化密切相关的发展。人类存在的流动性往往会逃避算法系统的严格分类，这在准确表达多样化身份方面带来挑战。