2024年12月14日 / 最終更新日時 : 2024年12月14日 ryo fujii お知らせ AIガバナンス協会に入会しました このたび、Controudit AIは、AIの適切な活用とリスク管理を推進するため、AIガバナンス協会に入会いたしました。 AIガバナンス協会について AIガバナンス協会は、AIの倫理性、公平性、透明性を確保しつつ、イノ […]
2024年11月24日 / 最終更新日時 : 2024年12月14日 ryo fujii AI戦略・ポリシー AI・LLM活用における統括部門・統括ポスト設置の重要性 1. はじめに デジタル技術の急速な進展に伴い、多くの企業が大規模言語モデル（LLM）を活用したサービスを提供しています。しかし、各部門や個人が独自にLLMを導入・運用することで、組織全体の統制が取れなくなるリスクが高ま […]
2024年11月10日 / 最終更新日時 : 2024年11月10日 ryo fujii 安全性 PathSeeker：強化学習による脱獄手法 1. イントロダクション 大規模言語モデル（LLM）は、近年のAI技術の進化とともに、さまざまな産業での利用が急増しています。多くの企業がLLMを取り入れることで、顧客体験の向上や業務効率化を図っていますが、その一方で、 […]
2024年11月7日 / 最終更新日時 : 2024年11月10日 ryo fujii 安全性 データポイズニングの危険性と対策 1. イントロダクション 生成系AIや大規模言語モデル（LLM）の活用は、今や多くのIT企業において日常的なものとなり、さまざまな分野で顧客対応やコンテンツ生成の効率化に貢献しています。しかし、この技術革新の背後には新た […]
2024年10月28日 / 最終更新日時 : 2024年10月28日 ryo fujii お知らせ 日本最大級のスタートアップ展示会「Startup JAPAN 2024 – 秋 -」に出展します 株式会社Controudit AIは、2024年11月20日（水）～21日（木）に東京ビッグサイトにて開催される、スタートアップ業界 日本最大級の展示会「Startup JAPAN EXPO 2024 – 秋 […]
2024年10月24日 / 最終更新日時 : 2024年11月11日 ryo fujii 安全性 RAGの新たなセキュリティリスク・ConfusedPilotの危険性および対策 1. イントロダクション ConfusedPilotは、RAG（Retrieval Augmented Generation）ベースのAIシステムを標的とした新たなセキュリティ脅威であり、特に企業環境で使用されるRAGシ […]
2024年10月23日 / 最終更新日時 : 2024年11月10日 ryo fujii お知らせ 元 内閣官房内閣サイバーセキュリティセンター サイバーセキュリティ監査官 徳地隆弘氏、Controudit AI 技術顧問に就任 株式会社Controudit AI（代表取締役：藤井涼）は、AIガバナンス分野における専門性をさらに強化するため、株式会社野村総合研究所（NRI）に約35年間勤務の後、内閣官房内閣サイバーセキュリティセンターにてサイバー […]
2024年9月22日 / 最終更新日時 : 2024年9月27日 ryo fujii 生成AIのリスク なぜ生成AIの脱獄(Jailbreak)が可能なのか 1. はじめに 生成AIは、自然言語を扱うAI技術の中で最も注目される技術の一つです。日々進化を続けるこれらのAIは、私たちの生活や仕事を便利にする一方で、悪用されるリスクもあります。その中でも特に問題となっているのが、 […]
2024年9月16日 / 最終更新日時 : 2024年9月18日 ryo fujii 安全性 【悪用厳禁】生成AIに対するJailbreak(脱獄)の様子を公開 1. イントロダクション まず最初に強くお伝えしたいのは、本記事の目的は、生成AI（Generative AI）のセキュリティを強化し、その脅威に対処するための意識を喚起することです。決して、AIシステムに対する攻撃方法 […]
2024年9月14日 / 最終更新日時 : 2024年9月14日 ryo fujii AIが社会に与える影響 生成AI時代における、人材教育を考える 1.イントロダクション 生成AI（Generative AI）の登場は、ビジネスや日常生活だけでなく、教育分野にも大きな影響を与えています。従来の教育法では対応しきれない部分が増え、AIを使いこなすためには新たな学習方法 […]
