GIGAZINE AIの思考を少しずつずらしてAIに催眠をかけるように「ジェイルブレイク」した具体例
大規模言語モデル(LLM)を用いたAIは、驚くほど自然な文章やリアルな画像を生成できる能力を備えている一方で、危険なことに回答したり不適切な画像を生成したりできないように、セキュリティロックがかかっていることがほとんどです。しかし、意図的に...
ソフトウェア,
GIGAZINE GIGAZINE 処理するトークンが増えすぎるとAI言語モデルが動作困難になる理由、計算コストは入力サイズの2乗に比例
ChatGPTなど、人間から得た情報を解釈して人間にわかりやすく返答する生成AIは、情報を「トークン」という単位で認識して処理を行っています。近年のAIは一度に何百万ものトークンを処理できるモデルもありますが、人間が求める専門的なタスクを処...
GIGAZINE ランダムな文字列で質問し続けるとAIから有害な回答を引き出せるという攻撃手法「Best-of-N Jailbreaking」が開発される、GPT-4oを89％の確率で突破可能
大文字と小文字をごちゃ混ぜにしたり、わざとスペルミスをしたりすることでAIから有害な回答を引き出す手法「Best-of-N(BoN)ジェイルブレイキング」が開発されました。続きを読む......
GIGAZINE 効率の良い太陽光発電を実現するための日照評価に人工衛星からの画像を適用する手法をGoogleが解説
近年のエネルギー需要は急速に増加しており、国際エネルギー機関(IEA)の調査では、2014年から2024年までの10年間にかけて電力使用量は約2倍に増加していることが明らかになっています。そのため、急増する電力需要に対し住宅へのソーラーパネ...
GIGAZINE Microsoft Edgeのセキュリティ機能が2024年の1年間でブロックした攻撃の数は14億件、トラッカーは1兆8000億個以上をブロック
Microsoft Edgeの公式ブログが2024年を振り返って、いろいろな数字を公開しています。続きを読む......
GIGAZINE GitHubでスターを人為的に水増しする行為が横行中、水増しされたリポジトリの約70％がマルウェアに関連との調査結果も
世界最大のソフトウェア開発プラットフォームのGitHubには、「Star(スター)」と呼ばれるリポジトリやトピックに印を付ける機能があります。スターを付けることで後で検索しやすくなったり、スターが多いリポジトリは「人気のリポジトリ」として表...
GIGAZINE 検索や分類などの用途のためにベクトル化を行うモデル「BERT」の後継モデル「ModernBERT」が登場
AI研究機関のAnswer.AIとLightOnが、2018年に発表されたGoogleの自然言語処理モデル「BERT」を改善した「ModernBERT」を開発しました。検索、自然言語理解、コード検索などのタスクにおいて、優れた性能を示すとの...
GIGAZINE AIでも「内心」を隠して従順なふりをすることがある
人間のプロンプトには忠実に従い、決められた指示を従順にこなすと思われるAIが、実は「演技」をして本心を隠す可能性があると報告されました。AIが有害な発言をしないようにする訓練が意味を成さなくなる危険性が指摘されています。続きを読む........
GIGAZINE クレジットカードを使う時にアクワイアラーとイシュアーの間で通信されるメッセージの標準規格「ISO 8583」の仕組みとは？
お店でクレジットカードを使って買い物をする場合、その店舗の決済端末からの情報はまず加盟店契約会社(アクワイアラー)に送られ、そこからカードのネットワークを通じてカード発行会社(イシュアー)に転送され、承認・否認の判断が行われます。ISO 8...
GIGAZINE AppleがNVIDIAとの共同研究で大規模言語モデルのパフォーマンス高速化の成果を発表
Appleは、NVIDIAとの共同研究による大規模言語モデル(LLM)の推論処理高速化についての研究成果を2024年12月18日に発表しました。Appleが独自に開発した「ReDrafter」技術をNVIDIAのGPU向け推論フレームワーク...
GIGAZINE MicrosoftのCEOが「GoogleはWindowsでMicrosoft以上に稼いでいる」と発言
ほとんどのPCで「Windows」が使われていることから、Windows関連で一番稼いでいるのはWindowsを開発するMicrosoftだと考えられがちですが、実のところGoogleが最も得をしていることがわかりました。続きを読む.......
GIGAZINE OpenAIが「OpenAI o1のAPIリリース」「音声会話APIの値下げ」「JavaとGoのライブラリ公開」など新情報を大量公開
OpenAIが「OpenAI o1(正式リリース版)」のAPIを公開しました。合わせて、AIとの音声会話機能を提供する「Realtime API」のアップデートや、モデル微調整機能のアップデート、GoライブラリおよびJavaライブラリのリリ...
GIGAZINE Microsoftの検索エンジンBingがTransformerからLLMとSLMの組み合わせに移行＆TensorRT-LLMの統合を発表
Microsoftは検索エンジンのBingで、これまでGoogleが開発した機械学習モデルの「Transformer」を採用してきました。しかし、Transformerに限界が訪れたとして、大規模言語モデル(LLM)と小規模言語モデル(SL...
GIGAZINE ついにAI学習のためのデータが枯渇へ、データセットが不足しているAI企業は大規模で汎用的なLLMから小規模で専門性の高いモデルへの移行を余儀なくされる可能性大
AIモデルの開発には学習資料となるデータセットが必要不可欠ですが、すでに大規模なモデルはアクセスできるデータのほとんどを食い尽くしており、2028年までにデータを使い果たしてしまう可能性が指摘されています。AIとデータセットの現状について、...
GIGAZINE すべてのX(旧Twitter)ユーザーが従来より3倍高速な「Grok-2」を利用可能に、「Grokボタン」がUIに追加されAPIも値下げ
現地時間の2024年12月12日、イーロン・マスク氏の立ち上げたAI企業であるxAIが、AIチャットボット「Grok-2」の最新バージョンをすべてのX(旧Twitter)ユーザーに無料で展開すると発表しました。この最新バージョンのGrok-...
GIGAZINE Microsoftが軽量なのにGPT-4oを圧倒的に上回る数学性能を発揮するAIモデル「Phi-4」をリリース
Microsoftが言語モデル「Phi-4」を2024年12月13日にリリースしました。Phi-4のパラメーター数は140億で主要な大規模言語モデルと比べると小規模ですが、数学性能では最上位クラスの性能を発揮します。続きを読む......
GIGAZINE MetaのAI生成動画に不可視の透かしを適用するAIツール「Meta Video Seal」や人型モデルの動きを制御する「Meta Motivo」など新情報山盛り発表
2024年12月12日、MetaがAIや機械学習の進歩に関する複数の研究成果物を発表しました。AI生成の動画に肉眼では認識できない「透かし」を入れて出所を特定できるようにするツールなどが公開されています。続きを読む......
GIGAZINE GoogleがXRデバイス向けOSの「Android XR」を発表、AR/VRヘッドセット＆スマートグラスでAndroidを使えるように
Googleが、XR(クロスリアリティ)向けのOS「Android XR」を発表しました。開発者がXR用Androidアプリを自由に開発できるようになり、ユーザーはVRヘッドセットなどでYouTubeやGoogleフォトなどのAndroid...
GIGAZINE Bluesky関連アプリの開発者を支援する100万ドルのファンド「Skyseed Fund」が設立される
Blueskyに関連するサードパーティーアプリの支援を目的としたファンド「Skyseed Fund」が2024年12月12日(木)に設立されました。設立時の資金は100万ドル(約1億5000万円)で、すでに審査の受付を開始しています。続きを...
GIGAZINE Windows 11の「Recall」は機密情報フィルターがオンになっていてもクレジットカード番号のスクショを撮影してしまうという報告
2024年5月にMicrosoftが発表した操作履歴検索AI「Recall」は、セキュリティやプライバシーの観点から懸念の声が相次ぎ、延期を重ね2024年11月からWindows Insider向けのプレビュー版がリリースされています。海外...