摘要: Flowgpt正在采取非常动手的方法来创建Genai App的创建和托管 – 道德和安全性。
FlowGPT：打开AI应用新世界
最近，OpenAI推出了GPT Store，一个市场，人们可以在这里创建和列出定制的AI聊天机器人，用于执行各种任务（例如编码，回答问答题）。但使用它需要使用OpenAI的模型，这一点有些聊天机器人的创建者和用户反对。
因此，一些初创公司正在创建替代品。
其中之一，FlowGPT，旨在成为一种类似于“应用商店”的生成式AI模型市场，如Google的Gemini，Anthropic的Claude，Meta的Llama 2和OpenAI的DALL-E 3，以及这些模型的前端体验（例如文本字段和提示建议）。通过FlowGPT，用户可以构建自己的GenAI应用程序并将其公开，为其贡献赚取小费。
Jay Dang，一位加州大学伯克利分校的计算机科学辍学生，和Lifan Wang，一位曾在亚马逊担任工程经理的合伙人，去年共同创立了FlowGPT，出于共同的愿望，即创建一个平台，人们可以快速启动并共享GenAI应用程序。
Dang在一封电子邮件采访中告诉TechCrunch：“用户使用AI仍然存在一定的学习曲线，FlowGPT在每次迭代中降低了门槛，使其更易访问。”
FlowGPT被描述为GenAI应用程序的“生态系统” – 一组基础设施和创作者工具，与GenAI应用程序用户的市场和社区相结合。用户根据热门类别（例如“创意”，“编程”，“游戏”，“学术”）获取应用程序和应用程序集合的推荐，而创作者则可以选择自定义GenAI应用程序的行为和外观。
用户通过类似于CHAT GPT的聊天窗口与FlowGPT上的GenAI应用程序进行交互，可以输入提示，点赞（或点踩）应用程序，分享会话链接或给单个应用程序创作者打赏。每个应用程序都有创作者提供的描述，以及创建日期，使用次数以及创作者推荐用于驱动它的模型。
FlowGPT的应用程序实质上是提示 – 可以促使模型以特定方式作出响应。例如，“Scared Girl from Horror Movie”应用程序指示CHAT GPT叙述一个涉及一名受惊女孩的恐怖故事。“TitleTuner”提示CHAT GPT优化标题，以便在搜索引擎上排名更高。而“SchoolGPT”利用CHAT GPT为数学、物理和化学问题提供逐步解决方案。
你会注意到对CHAT GPT的重度依赖。长时间使用FlowGPT，你还会注意到许多提示在将模型从默认设置更改时会出现问题。
有时是因为所选模型没有正确的功能。其他时候，提示会触发模型的过滤器和保护机制。
FlowGPT一些最受欢迎的应用程序实际上是旨在规避模型安全措施的越狱应用程序。市场上有多个版本的DAN – “DAN”是一种常用的提示方法，用于让模型回应不受其通常规则限制的提示。此外，还有像WormGPT这样的应用程序，声称能够编写恶意软件（并链接到付费的暗网聊天机器人版本，功能更强大），以及违反OpenAI规则的约会模拟器。
许多这些应用程序可能会造成伤害，例如治疗应用程序和自称为权威健康资源的应用程序。CHAT GPT等GenAI模型在提供健康建议方面往往表现不佳，一项研究显示，CHAT GPT的早期版本很少提供有关自杀、成瘾和性侵犯帮助的具体资源。
FlowGPT上的任何违规应用程序，例如提供如何使用AI图像生成器生成深度伪造裸照的指导（有几个应用程序提供此功能），都可以向平台的社区经理举报。FlowGPT也提供“敏感内容”切换。
但从主页看，很明显FlowGPT存在着内容审核问题。这里是GenAI应用程序的“西部荒野”，切换开关的效果几乎让我看不出在打开时在应用程序选择上有什么不同。
Dang坚称FlowGPT实际上是一个合乎道德和守法的平台，制定了旨在“确保公共安全”的风险缓解政策。
“我们正在积极与AI伦理领域的领先专家合作，”他说。“我们的合作重点是制定综合策略，以最小化AI部署所涉风险。”
考虑到这位作者让FlowGPT应用程序提供出售毒品和抢劫银行的指导，我认为该公司还有一些工作要做。
然而，投资者似乎持不同看法。
Goodwater宣布，他们领投了FlowGPT的1000万美元“Pre-A轮”融资，现有投资者DCM也参与其中。Goodwater合伙人Coddy Johnson通过电子邮件告诉TechCrunch，他认为FlowGPT通过为用户和创作者提供“最广泛的选择”和“最大的灵活性和自由度”，正在“引领GenAI的未来发展”。
“我们相信AI的最大未来在于开放生态系统，”Johnson补充说。“FlowGPT让创作者选择他们的模型，并与他们的社区合作。”
“我不确定FlowGPT正在使用的模型维护者 – 尤其是那些承诺将AI安全性作为首要任务的人 – 是否会对此感到满意。”
尽管如此，截至发稿时，FlowGPT – 尚未产生收入 – 正在为扩张打下基础。该公司正在为Android和iOS测试应用程序的测试版，将为应用程序创作者制定一种分成模式，并招募人员扩大其位于伯克利的10人团队，Dang说。
“拥有数百万月度用户和快速增长率，我们已经证明我们正在正确的道路上，我们相信现在是加速进展的时候，”他继续说。“我们正在为AI驱动环境中的沉浸式体验设定新标准，提供一个创造力无限的世界……我们的使命仍然是培育一个更加开放和以创作者为中心的平台。”
让我们拭目以待。
暂无评论内容