人工知能 (AI) 発明に関連する特許出願の調査: シナリオ

Jun 17, 2023

2022 年 9 月 22 日発行

© クラウン著作権 2022

この出版物は、特に明記されている場合を除き、Open Government License v3.0 の条件に基づいてライセンス供与されています。 このライセンスを表示するには、nationalarchives.gov.uk/doc/open-government-licence/version/3 にアクセスするか、情報政策チーム、国立公文書館、キュー、ロンドン TW9 4DU に手紙を書くか、電子メールで [email protected] に送信してください。イギリス。

第三者の著作権情報を特定した場合は、関係する著作権所有者から許可を得る必要があります。

この出版物は、https://www.gov.uk/government/publications/examining-patent-applications-getting-to-artificial-intelligence-ai-inventions/examining-patent-applications-getting-to-artificial-intelligence で入手できます。 -ai-発明-シナリオ

1.この文書には、人工知能 (AI) または機械学習 (ML) に関連する発明に関する一連の「シナリオ」が含まれています。 AI発明に関連する特許出願を審査するためのガイドラインに付随するように設計されています。 このガイドラインは主に、1977 年特許法第 1 条 (2) に定められた除外事項規定に関する AI 発明の特許性に関するものです。

2.IPO は、あらゆる技術分野の AI 発明に特許が適用されると考えています。 この文書のシナリオは、AI の発明が見られる可能性のある広範囲にわたる多様な技術分野を反映し、説明することを目的としています。

3.各シナリオには、AI 発明がどのように機能するかについての非常に簡単な説明と、特許請求の具体例が含まれています。 各シナリオには、セクション 1(2) に関して各 AI 発明がどのように評価される可能性があるかについての私たちの意見を示す簡略化された評価が含まれています。

4.疑義を避けるために、この文書は法律の出典ではないことを強調します。 シナリオの特許性に関する当社の意見は、1977 年特許法に基づくいかなる目的においても拘束力を持たないものとします。

5.シナリオは、除外された事項の問題のみに焦点を当てるように設計されています。 私たちは、特許請求の範囲に記載されている発明が新規であり、自明ではないものであると仮定しています。 また、各シナリオが十分に開示されていることを前提としています。

6.当社が提供する除外事項の評価は、4 段階の Aerotel アプローチの簡略化された適用に従います。 Aerotel アプローチのステップ 1 と 2 の詳細な検討は省略しました。 具体的には: ステップ 1 では、各クレームが十分に明確であり、解釈上の問題は生じないと単純に仮定しました。 b. ステップ 2 では、実際の貢献度 c であると考えられるものを記載することで評価を簡素化しました。 ステップ 3 と 4 では、セクション 1(2) を除く「コンピュータ用のプログラム」に主に焦点を当てて分析を簡素化しました。 特に明記されていない限り、当社の拘束力のない意見は、この例外に限定されます。

7.これらのシナリオから生じたコメントや質問は、次の宛先までお送りください。

フィル ソープ知的財産局コンセプト ハウスカーディフ ロードニューポートサウス ウェールズNP10 8QQ

(電話 01633 813745)メール: Phil Thorpe

ナイジェル ハンリー知的財産局コンセプト ハウスカーディフ ロードニューポートサウス ウェールズNP10 8QQ

電話 01633 814746メール: Nigel Hanley

本発明は、監視カメラを備えた駐車場施設に設置される駐車管理システムに関する。

システムのカメラからの画像は、施設の入り口に近づく車両を検出するように訓練された最初のニューラル ネットワークによって処理されます。 最初のニューラル ネットワークが画像内で接近する車両を検出すると、その画像は 2 番目のニューラル ネットワークに渡されて、自動ナンバー プレート認識システム (ANPR) システムが実装されます。 2 番目のニューラル ネットワークは、画像内の特定のナンバー プレート領域を識別するようにトレーニングされます。 認識モジュールは、識別されたナンバープレート領域を受け取り、光学式文字認識アルゴリズムを適用して車両の登録番号を決定します。

駐車施設の入口に配置された画像捕捉装置と、画像捕捉装置から画像を受信するコンピューティング装置とを備え、捕捉された画像内の車両を検出するように構成された第１のニューラルネットワークと、第２のニューラルネットワークとを含むナンバープレート認識システム。ニューラルネットワークは、第１のニューラルネットワークから車両の指示を受信し、画像内のナンバープレートの存在を検出し、ナンバープレートが位置する関心領域を決定するように構成されている。 認識モジュールは、関心領域を受け取り、光学式文字認識プロセスを関心領域に適用して車両の登録番号の文字を決定するように構成されている。

貢献

カメラとコンピュータを備えた従来の監視システムを超えて、本発明によってもたらされる貢献は次のとおりです。

第１のニューラルネットワークを使用して、取り込まれた画像内の車両を検出するナンバープレート認識システム。 画像内のナンバープレートの存在を検出し、ナンバープレートが位置する関心領域を決定する第 2 のニューラルネットワークと、関心領域に光学式文字認識プロセスを適用して文字を決定するモジュール車両の登録番号。

この貢献はナンバー プレート認識システムであり、セクション 1(2) によって除外されません。 ナンバープレート認識システムはコンピュータで実装されていますが、コンピュータの外部で技術的なプロセスを実行するため、それ自体がコンピュータ用のプログラム以上のものです。 ナンバー プレート認識システムには、2 つのニューラル ネットワークと、本質的に技術的な画像処理操作を特に実行する認識モジュールの組み合わせが含まれています (Vicom を参照)。 このシステムは、道しるべ (i) の意味で技術的な効果をもたらします。 これは車両の登録プレートの認識に関する技術的問題を解決することは自明であるため、標識 (v) は許容性も示しているでしょう。

請求された発明は排除されない。

ガス供給システムは、供給システムとその動作環境にある複数のセンサーによって監視される複雑なシステムです。 通常、オペレータはセンサーからのデータを組み合わせて分析し、システム内の個々のコンポーネントとシステム全体の両方の動作状態の概要をオペレータに提供できます。 これは、オペレータがシステム内の障害やシステムを再構成するためのオプションを特定するのに役立ちます。

ただし、このアプローチにはオペレーター側の専門的なスキルが必要であり、特に相互接続された多数のセンサーからのデータを考慮する必要がある場合にはエラーが発生しやすいことが認識されています。 特に、システムに加えられた変更の相互依存性を理解するのは困難です。

この問題は発明者によって認識されており、ガス供給システムに関連するセンサーデータを受信して​​分類し、障害を特定し、障害を解決するためのシステム構成の変更を推奨する人工知能システムを開発した。 推奨事項を作成する際、AI システムは構成変更がシステムに与える影響を分析します。 システムは、自動操作コントローラを使用して、推奨される構成変更をシステムに実装する場合があります。

ガス供給システム内およびその動作環境内でセンサーを使用してガス供給システムの動作状態を管理するコンピュータ実装の方法であって、その方法が AI システムを含むことを特徴とする方法: センサーからのデータを受信して​​分析する; 故障状態を特定する分析に基づいてガス供給システム内を監視し、障害状態を報告して、ガス供給システムの自動操作コントローラーに推奨される解決策を生成します。

貢献

この貢献は、ガス供給システムの動作に関するセンサー データに基づいてガス供給システムの障害状態を特定し、障害状態と推奨される解決策を自動化されたシステムに報告する AI システムを使用してガス供給システムの状態を管理することです。操作コントローラー。

この貢献は、コンピュータ プログラムの除外範囲内にのみ含まれるわけではありません。 本発明によってなされる貢献は、ＡＩシステムが動作するコンピュータの外部にある技術的問題、すなわち、障害状態に対する外部技術システム（ガス供給システム）の動作の監視に対する解決策である。 これは技術的な貢献です。 道標 (i) と (v) は許容範囲を示しています。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

オブジェクトの動きを分析すると、アクティビティを識別できます。 スポーツ イベントなどのいくつかの既知の例では、オブジェクトの動きを分析することがコーチングに役立つ場合があります。 あるいは、ジェスチャベースのシステムでは、決定されたジェスチャを制御メカニズムとして使用したり、アラームを発したりすることができます。 既知の例では、禁煙システムは、ユーザーの喫煙を思いとどまらせるために、手首に装着するデバイスでアラームを生成します。

通常、これらの既知のシステムは、リアルタイム データを統計モデルと比較して動きを決定することによって動作し、統計モデルの精度に大きく依存します。 したがって、統計モデルに依存するシステムは不正確になる可能性があります。

発明者は、動きを分類するためのニューラルネットワークへの入力として、X、Y、およびZ方向の加速度、速度、および向きから導出される動きベクトルを使用するシステムを提案した。 このシステムは、スポーツ ウォッチやその他のモーション センサーなどのデバイスからモーション データをリアルタイムで受信することによって機能します。 ニューラル ネットワークは、分類ライブラリを使用して動きベクトルを処理し、動きを特定の動きに分類します。

データインターフェース、ニューラルネットワーク、および動作分類ライブラリを有するコントローラと、ジャイロスコープ、磁力計、および加速度計を含むセンサとを備え、動作を分析するためのコンピュータ実装装置であって、各センサからのデータがそれぞれコントローラに出力される装置。データインターフェースを介して、コントローラが以下の動作を行うことができることを特徴とする。受信したデータから動きベクトルを決定する。 決定された動きベクトルをニューラルネットワークに提供する。ニューラルネットワークは、動きベクトルを分類ライブラリ内の特定の動きの１つとして分類するように構成される。

貢献

この貢献は、センサー (ジャイロスコープ、磁力計、加速度計) によって捕捉されたデータから動きベクトルを決定し、ニューラル ネットワークと分類ライブラリを使用して動きベクトルをライブラリからの動きとして分類するデバイスです。

その役割は、コンピューティング デバイスの物理的な動きを表す測定されたセンサー データを分類するプロセスを実行することであるため、この貢献は単なるコンピューター用のプログラムではありません。 このプロセスは、コンピューティング デバイスの外部にある技術的プロセスであり、技術的手段によって実行されます。 これは、実世界のセンサー データを決定された動きとして分類することに関係します。 道しるべ (i) は特許性を示しています。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

ポンプ システムにおけるキャビテーションは、ポンプの入口流域での蒸気泡の形成であり、ポンプ シール、ベアリング、その他のポンプ コンポーネント、機械的カップリング、ギア トレイン、およびモーター コンポーネントの摩耗を促進し、機械的損傷を引き起こす可能性があります。

ポンプシステムは、ポンプシステムに関連するポンプ流量および圧力データを測定するように適合された測定装置を有する。 分類システムは、流量と圧力のデータに従ってポンプのキャビテーションを検出します。 分類器システムは、バックプロパゲーションを使用してトレーニングされたニューラル ネットワークで構成されています。 測定装置は、ポンプシステムの入口（３）および出口（４）にそれぞれ関連付けられた入力圧力および出力圧力を測定するためのセンサー（１、２）を備える。 ポンプを通る流量も測定されます。

1. ポンプ システム内のキャビテーションを検出するためにニューラル ネットワーク分類システムをトレーニングする方法であって、測定された複数のポンプ流量および圧力データのペアのそれぞれを複数のクラス値の 1 つと相関させ、それによって次のステップを含む方法。トレーニングデータセットであって、複数のクラス値のそれぞれがポンプシステム内のキャビテーションの程度を示し、複数のクラス値の少なくとも１つがポンプシステム内のキャビテーションがないことを示す。 トレーニング データ セットと逆伝播を使用してニューラル ネットワーク分類子システムをトレーニングします。

ポンプシステムにおけるキャビテーションを検出するための方法であって、 ポンプ流量および圧力データを測定するステップと、 前記流量および圧力データに従ってポンプキャビテーションを検出するステップとを含み、 前記検出ステップが、前記流量および圧力データを入力として分類器システムに提供するステップを含む、方法。訓練されたニューラルネットワークであって、ニューラルネットワークがポンプシステム内のキャビテーションの存在および程度を示す信号を提供し、前記ポンプシステムの動作中に前記信号を更新する（６）。

貢献

請求項 1 から始めて、この貢献は、ポンプ システム内のキャビテーションを検出できるようにニューラル ネットワーク分類器をトレーニング (つまりセットアップ) するコンピューター実装方法であり、この方法では、測定値を含むトレーニング データのセットによる逆伝播が使用されます。ポンプシステムからのポンプ流量と圧力のそれぞれは、システム内のポンプキャビテーションの対応する程度を示す値と相関しています。

この貢献はコンピュータ プログラムに依存していますが、それは単なるコンピュータ プログラム以上のものです。 この貢献は、物理データを使用して特定の技術的目的、つまりポンプ システム内のキャビテーションの検出に向けて分類器をトレーニングするプロセスに関連しています。 これは本質的に技術的なものです。 道しるべ (i) の意味で技術的貢献があります。

請求項 2 も、ポンプ システム内のキャビテーションを検出するという特定の技術的目的のための訓練された分類器の使用に関するものであるため、技術的貢献を明らかにしています。 道しるべ (i) の意味で、コンピューターの外部にある技術的プロセスが実行されます。

請求項 1 および 2 に定義された発明は、セクション 1(2) により除外されません。

多くの車には、排気ガス中の NOx や CO などのガスの量を減らすために触媒コンバーターが取り付けられています。 このようなコンバータの問題は、エンジンの燃焼室内の燃料と空気の比率によって動作効率が変化することです。 したがって、触媒コンバータの効率的な動作を維持するには、燃料対空気比を一定の値に維持するように制御する必要があります。

スロットル位置に関するフィードフォワード制御と、排気ガスに設けられた酸素センサ（または空燃比センサ）に関する追加のフィードバック制御を使用して、エンジンの燃焼室に噴射される燃料の量を制御することが知られている。 これはうまく機能しますが、エンジンが加速または減速しているときに空燃比を正しく制御するのが難しい場合があります。

本発明者は、訓練されたニューラルネットワークを使用して、加速／減速中に所定の燃料噴射量を調整すべき量を決定して、正確な燃料対空気比を維持し、それによって触媒コンバータの効率を維持する噴射器制御システムを開発した。 ニューラル ネットワークは、エンジン回転数 (RPM)、吸気圧、スロットル位置、燃料噴射量、吸気温度、エンジン冷却水温度、排気ガス センサーからのデータなど、エンジンの動作状態に関するデータ入力を受け取ります。 ニューラルネットワークは、エンジンを制御するための燃料噴射量の変化を示す信号を出力する。

内燃機関のシリンダに噴射される燃料の量を調整するためのコンピュータ実装ニューラルネットワークであって、 ニューラルネットワークは、 エンジンのＲＰＭを受け取るための入力と、 エンジンの吸気圧力を受け取るための入力とを有する入力層を備える、ニューラルネットワーク。エンジン;現在のスロットル位置を受け取る入力;現在の噴射燃料量を受け取る入力;吸気温度を受け取る入力;水冷温度を受け取る入力;排気ガスセンサーデータを受け取る入力;少なくとも1つの隠れ層ここで、隠れ層は入力層に接続され、出力層は少なくとも１つの隠れ層に接続され、 出力層は、燃料噴射を変更すべき量を示す出力を有する。

貢献

この貢献は、特許請求の範囲に定義されているように、エンジンの動作状態に関する入力に基づいて燃料噴射を変更すべき量に関する制御信号を出力するニューラルネットワークである。

この貢献は、コンピュータの外側にある技術的問題、つまりエンジン内の燃料と空気の比率を正しく維持することに対する解決策であり、それ自体がコンピュータのためのプログラム以上のものです。 ニューラルネットワークは、エンジンの運転状態を表すデータを入力として、燃料噴射量の変化量を示す制御信号を出力する。 制御信号は、ニューラル ネットワークが実行されるコンピューターの外部に存在する技術プロセスを制御するのに適しています。 これは技術的な貢献です。 標識 (i) および (v) が適用されます。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

心臓の健康状態を判断する場合、心臓の各心室から流出する血液の割合を測定することが役立ちます。 この測定値は、超音波画像システムの熟練したオペレータが、心臓を画像化し、心拍の両端で心臓の心室の境界をマークして測定することによって推定することができる。 ただし、オペレータの見積もりの​​精度はオペレータのスキルと判断に依存します。

本発明者は、訓練されたニューラルネットワークを使用して、心拍ごとの心臓の一連の画像を分析することによって心臓から排出される血液の割合の測定を提供する方法を考案した。 ニューラル ネットワークは、教師あり学習アプローチを使用してトレーニングされます。

心拍中に所定の心臓から駆出される血液のパーセンテージを決定するためのコンピュータ実装方法であって、心臓画像データセットを用いてニューラルネットワークをトレーニングすることを含み、各セットは経時的な心室のイメージングデータおよび関連する血液駆出パーセンテージを含み、セットは異なる心臓に関連付けられ、訓練されたニューラル ネットワークを使用して、特定の心臓の心室の一連の画像データを受信し、特定の心臓の血液駆出のパーセンテージを出力します。

貢献

この寄与は、駆血率でラベル付けされた心臓画像データを使用してニューラル ネットワークをトレーニングし、一定期間にわたって特定の心臓から駆出される血液の割合の推定値を取得することにより、心臓から駆出される血液の割合を推定する方法です。訓練されたニューラル ネットワークに心臓の一連の画像 (心拍全体にわたる) を提供することによって心拍を検出します。

この貢献は、心拍中に心臓から排出される血液の割合の測定の改善に関連しているため、コンピュータのプログラムそのものを超えたものです。 これは物理システムの技術的な測定です。 この改善された測定は、道標(i)に従って、本発明を実装するコンピュータの外部にあるプロセスに対する技術的効果の一例である。 これは技術的な貢献です。

本発明はセクション 1(2) に基づいて除外されません。

取引所のトレーダーは、さまざまな株式や取引可能な商品のパフォーマンスを監視して、有益な取引を行う機会を特定しようとします。 市場のパターンや傾向を認識し特定するには、専門的な知識、理解、経験が必要です。 これは、トレーダーがエネルギー株、金融デリバティブ、商品などの狭い範囲の商品に特化することが多いことを意味します。

発明者は、これにより有益な取引が見落とされる可能性があることを認識した。 トレーダーは、ポジションの一部として保有している商品の取引機会を逃したり、取引による損失を減らしたり利益を増やしたりする機会を逃す可能性があります。 トレーダーを支援するために、発明者は、株価と商品価格の間のパターンと相関関係を特定し、最近のパフォーマンスとタイミングの違いに基づいて取引を特定し、将来の行動を予測できる AI を開発しました。 AI が提供する利点の 1 つは、AI がなければ不透明で明白ではない接続を「見る」機会が得られることです。

AI は自動仲介プラットフォームに接続されており、トレーダーが提供する損益制限に従って取引を実行できるようになります。

取引所市場、ブローカー端末、AIアシスタント、および自動仲介システムを含むコンピュータ実装の金融商品取引システムであって、AIアシスタントが以下を行うように構成されていることを特徴とする、取引可能な金融商品の現在および過去の価格データを取引所から受信するシステム。 ;金融商品の組み合わせを相互参照して、相関する商品グループを特定する;各相関するグループ内の傾向を特定する;ブローカー端末からトレーダーのポジションを受信する。 そして、特定された傾向とトレーダーのポジションに基づいて、自動仲介システムに自動取引指示を発行します。

貢献

この貢献物は、取引可能な商品間の相関関係を監視し、トレーダーが設定した損益制限に従って自動取引を実装する人工知能アシスタントを備えたコンピューター実装の金融商品取引システムです。

この貢献は完全にビジネスのやり方そのものに関係しています。 システムのすべての入力とすべての出力は、価格であれ取引指示であれ、純粋に金融商品の取引に関係します。 本発明の成果は金融商品取引システムにすぎない。 これは技術的な貢献とはみなされません。

請求された発明は、それ自体がビジネスを行う方法であるため、s.1(2) に基づく特許保護の対象から除外されます。

人々の現在および将来の健康ニーズを特定することは、大きな仕事です。 健康問題の本質は、多くの場合、医療システムが事前対応型ではなく事後対応型であることを意味します。 そのため、個人レベルおよび人口レベルで将来の需要を特定することは、多くの場合困難です。

発明者は、機械学習技術を使用して患者の健康記録を分析し、将来の健康介入が必要となる可能性があるリスクグループまたは部分集団に患者を割り当てることが可能であることを発見した。 これにより、医療プランナーは「集団を評価」し、集団内で薬物試験や代替治療に適した患者グループを特定できる可能性があります。

このシステムは AI デバイスを使用して患者集団の健康記録を取り込みます。 AI デバイスは、医療記録内の経験的変数を特定し、変数間の相関関係を探し、相関変数を使用して集団内の患者のグループを識別するために使用できるマーカーを作成します。 患者の健康記録には必ず管理記録が含まれますが、以前の治療歴や医療検査結果の詳細も含まれる場合があります。

AI デバイスによって実行される、人口の将来の医療ニーズを特定するコンピュータ実装の方法であって、患者記録を AI デバイスに入力するステップと、患者記録からデータを集約するステップと、集約されたデータから複数の変数を特定するステップとを含む方法。データ;変数間の相関関係を特定;相関変数に基づいて患者をグループに割り当てます。 各グループの健康指標の範囲を出力します。

貢献

本発明の貢献は、患者データを分析し、その分析に基づいて患者をグループに分類するコンピュータ実装方法として特定される。

投稿は除外された主題のみで構成されます。 患者データの情報内容を解析するだけのプログラムであり、それ自体はコンピュータのプログラムに過ぎません。 本発明は、コンピュータ外部の技術的プロセスを表すものではなく、コンピュータ外部の技術的問題の解決に貢献するものでもありません。 さらに、患者データを分析して患者のグループを決定することは完全に管理上のタスクであり、それ自体がビジネスを行う方法にすぎません。

クレームされた発明は、コンピュータ用のプログラムそのものおよび/またはビジネスを行う方法そのものとしては除外されます。

迷惑メールやメールショット電子メールは、多くのユーザーにとって迷惑なものと考えられています。 これらの電子メールはメールボックスをいっぱいにすることが多く、ユーザーが重要な通信を見ることができなくなる可能性があります。 この状況に対処するために、これらのメッセージをジャンクとして識別し、ジャンク電子メール (または同様の優先度の低い) メールボックスに移動する、多くのよく知られたルールベースのシステムが存在します。

発明者は、1 つのルール セットがすべてのユーザーに適合するわけではないため、これらの既知のアプローチには限界があることに気づきました。 あるユーザーにとっての迷惑メールは、別のユーザーにとっても同様であるとは限りません。 さらに、ジャンク電子メールの送信者は、送信内容を特定のルール セットに適応させます。

これらの問題に対処するために、発明者はユーザーのフィードバックを通じて学習する AI システムを開発しました。 このシステムは、トレーニングされた AI 分類子を使用してすべての受信電子メールのテキストを解析し、その内容と意味構造に従って電子メールを分類します。 AI 分類器は、以前に分類された電子メールのコーパスに基づいてトレーニングされます。 AI 分類器は、受信した電子メールをジャンク、ジャンクではない、または不明のいずれかに分類します。 「不明」と識別された電子メールは、ユーザーが手動で分類できます。 電子メールとその分類は、AI 分類器のトレーニングを適切に調整するために使用されます。

完全なシステムは、ユーザーのニーズと迷惑メール作成者の変化する行動に適応する迷惑メール フィルタリング システムを提供します。

受信した電子メッセージをメッセージのクラスに属するものとして識別するコンピュータ実装方法であって、テキスト内容および意味構造に従って内容を分類する訓練されたAI分類器を使用してメッセージの内容を解析するステップと、第一クラス、第二クラス、または不明として分類される。メッセージが不明として分類された場合、メッセージを第一クラスまたは第二クラスとして分類するユーザからの入力を受け取る。 ユーザーが分類したメッセージとその分類を使用して AI 分類器のトレーニングを更新します。

貢献

コントリビューションは、AI 分類器を使用して、電子メールのテキスト内容と意味構造に基づいて電子メールを迷惑メールか迷惑メールでないか分類する方法です。AI 分類器が電子メールが迷惑メールであるかどうか確信が持てない場合、ユーザーに決定を求め、その結果を使用して分類子を更新します。

この貢献は、それ自体がコンピュータ用のプログラムにすぎません。 この貢献は、単にユーザーの入力を求めるだけでなく、電子通信のテキスト内容を分析して、それらの通信の分類を決定するだけです。 これは単なるデータの操作で構成されており、コンピューター上でプログラムを実行する以上の技術的な効果はありません。 技術的な貢献はありません。 どの道標も許容性を示していない。

クレームされた発明は、s.1(2) のコンピュータ除外プログラムに基づいて除外されます。

高性能キャッシュ メモリまたはストレージは、関連するデータ ストアのパフォーマンスの低下を軽減してシステム パフォーマンスを向上させるために、コンピュータ システムで一般的に使用されます。 データ ストアに保持されている頻繁にアクセスされるデータはキャッシュ メモリに保存 (キャッシュ) されるため、必要なときにすぐに取得できます。

メモリ システムの全体的なパフォーマンスは、キャッシュに保存するデータを関連するデータ ストアから選択することに依存します。 キャッシュは空の状態で開始されますが、キャッシュが完全に設定されると、キャッシュに格納されているデータを削除および置換することで、パフォーマンスを維持するためにキャッシュの内容を管理する必要があります。

新しいデータをキャッシュに追加するときに、キャッシュから削除するデータを識別するスキームが 2 つあります。 1 つ目は、最も最近使用されていない (LRU) データを削除することです。 2 番目のスキームは、最も頻繁に使用されていないが新しい (LFU) データを削除します。一方のスキームは、キャッシュに格納されている特定のデータに応じて、他方のスキームよりも全体的なシステム パフォーマンスが向上する可能性があります。

発明者は、ＬＲＵスキームとＬＦＵスキームのどちらが最高のシステムパフォーマンスをもたらすかを識別するために、訓練されたニューラルネットワークを使用することによってキャッシュの投入を管理する方法を考案した。 ニューラル ネットワークは、LRU スキームと LFU スキームのそれぞれによって削除対象として識別されたデータを、キャッシュの他の特性 (サイズや、要求されたデータがキャッシュ内で見つかった回数とキャッシュ内で見つかった回数の比率など) とともに入力として受け取ります。そうでない回数 (キャッシュのヒット対ミス率と呼ばれます)。 次に、ニューラル ネットワークは、最高のシステム パフォーマンスを保証するためにどのスキームを使用するかを示す指示を返します。

データストアから頻繁にアクセスされるデータを保存する手段としてキャッシュを使用する、コンピュータシステム内のデータストアのデータキャッシュに保存されたデータを管理する方法であって、第１の削除アルゴリズムを使用して、削除される第１のデータを識別するステップを含む方法。キャッシュから削除する;第 2 の削除アルゴリズムを使用して、キャッシュから削除する 2 番目のデータを特定する;最初のデータ、2 番目のデータ、キャッシュ サイズ値、およびキャッシュのヒット/ミス比を、学習済みニューラルへの入力として提供するトレーニングされたニューラルネットワークは、キャッシュからデータを削除するために使用される第１または第２のアルゴリズムのいずれかの選択をその出力として提供するネットワーク。 新しいデータをデータ ストアからキャッシュに追加するときは、選択したアルゴリズムを使用してキャッシュからデータを削除します。

貢献

その貢献は、ニューラル ネットワークを使用してキャッシュ内のデータを管理し、キャッシュからデータを削除するための最適な削除アルゴリズムを選択することであり、その選択は、さまざまなアルゴリズムとキャッシュのパフォーマンス特性によって削除するために選択されたデータに基づいています。

この貢献は、コンピュータの内部動作に関する技術的問題の解決、つまりコンピュータのメモリ階層の動作方法の改善に関係しているため、コンピュータ自体のプログラム以上のものです。 本発明は、実行中のアプリケーションや処理中のデータの性質に関係なく、コンピュータの動作を改善し、コンピュータをより効率的かつ効果的にする。 これは、道標 (ii)、(iv)、および (v) の意味での技術的効果を明らかにします。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

悪意のある攻撃者は、許可されたユーザーの有効な認証資格情報を取得することで、保護されたコンピュータ システムにアクセスする可能性があります。 たとえば、ユーザー名とパスワードを取得するためにユーザーに対してフィッシング攻撃を使用する可能性があります。

発明者は、悪意のある行為者がコンピュータ システムにアクセスした場合にそれを特定し、それによって是正措置を実行できるようにする方法を考案した。 これは、悪意のあるアクターの使用特性と、その詳細にアクセスしたユーザーまたはなりすましているユーザーの使用特性を比較することによって行われます。

この方法には、コンピューター システムに対するユーザーの特徴的な使用法 (ユーザーが使用するアプリケーション、入力方法、マウスの使用など) を表す初期データ セットに基づいて機械学習アルゴリズムをトレーニングすることが含まれます。 その後、誰かがそのユーザーの資格情報を使用してログインすると、トレーニングされた機械学習アルゴリズムが使用され、コンピューター システムの新たに測定された特徴的な使用法に従って「ユーザー」の信頼性がスコアリングされます。 機械学習アルゴリズムが、「ユーザー」が本物のユーザーではない可能性があることを示した場合、システムはユーザーを悪意のある行為者として識別し、是正措置を実行できます。

コンピュータで実行される方法であって、コンピュータシステム上で初回にユーザを認証するステップと、初回にユーザを認証することに応答して、少なくとも１つの機械学習モデルを使用して、ユーザの行動特性スコアを計算するステップと、を含む方法。ユーザーとコンピュータ システムのインタラクションを特徴付ける特性スコア;コンピュータ システム上で 2 回目にユーザーを認証する;2 回目のユーザー認証に応じて、機械学習モデルを使用して、ユーザーのインタラクションを特徴付ける行動スコアを計算するコンピュータシステムを使用するユーザー。 算出された行動特徴スコアと行動スコアとに基づいて、２回目に認証されたユーザが悪意のあるユーザであると判定する。

貢献

本発明による貢献は、機械学習モデルによって計算された行動スコアと、機械学習モデルによって計算された本物のユーザの既知の行動特性スコアに基づいて、コンピュータシステムにログインしているユーザが悪意のあるユーザであると判定することである。

この貢献は、コンピュータ システム内に存在する技術的問題、つまり悪意のある侵入の検出に対する解決策であるため、コンピュータ プログラムそのもの以上のものです。 これは、ユーザーによるコンピュータ システムの特徴的な使用状況を繰り返し監視することによって実現されます。 これは、本質的に技術的なものであると考えられる、コンピューター システムの内部動作を監視する例です。 本発明は、実行されているアプリケーションやコンピュータシステムによって処理されているデータに関係なく機能する。 少なくとも道標 (ii) と (v) という意味では技術的な効果があります。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

タッチ スクリーン デバイスでは、ユーザーが関連付けられたテキスト ボックスにテキストを入力できる仮想キーボードを表示することによってテキスト入力を可能にすることが知られています。 この方法でテキストを入力するのは労力と時間がかかる可能性があり、多くのデバイスのサイズが比較的小さいことを考えると、仮想キーの連打によるユーザー エラーが発生しやすくなります。

発明者は、訓練されたリカレント ニューラル ネットワーク (RNN) を使用して、以前に入力された単語または句読点を考慮して次に考えられる単語 (または文字列入力) を予測することにより、テキスト入力の負担を軽減するプログラムを作成しました。 予測された単語はランク付けされ、最も可能性の高い単語の選択がユーザーに表示されます。 表示された単語はユーザーによって選択され、仮想キーボードからのテキスト入力として使用されます。 本発明は、ユーザがより正確に、より少ない仮想キー押下で所望のテキストをコンピュータに入力できるようにするという利点を有する。

インタラクティブな仮想キーボードを表示するデバイス上でテキスト入力する方法であって、仮想キーボードからの入力をデバイスで受信するステップと、訓練されたリカレントニューラルネットワークに入力を提供して、入力される可能性が高い単語の選択を予測しランク付けするステップとを含む方法。ユーザーの次の入力。次に入力される可能性が最も高い単語を少なくとも 2 つ表示します。 表示された単語のうちの１つの選択に対応する入力を受信する。

貢献

この貢献は、仮想キーボードを備えたデバイスでの予測テキスト入力に関連しており、リカレント ニューラル ネットワークが、以前に入力されたテキストに基づいて次に入力される可能性が最も高い単語を予測してランク付けし、デバイスのユーザーが予測された単語の 1 つを選択できるようにします。デバイスに入力します。

この貢献は、単なるコンピュータ用のプログラム以上のものです。 この貢献は、デバイス自体の動作そのものに関する技術的問題、つまりキーボードを使用したテキスト入力の速度と精度を向上させるという問題の解決策です。 本発明は、より少ないキー押下でテキストが入力されるように、ユーザが入力のために選択する単語を予測することによってこれを行う。 本発明は仮想キーボードを改良し、ユーザが使用できるデバイスをより効率的かつ効果的なものにする。 これは技術的な貢献です。 道標 (iv) と (v) が当てはまるようです。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

ニューラル ネットワークは非常に大規模で複雑になる可能性があり、多数のパラメーターがあり、多くの計算が必要になります。 多数のパラメータと計算を処理するには、それに応じて大量のメモリとプロセッサ リソースが必要になります。 訓練されたニューラル ネットワークの利点を維持しながら、これらの要件を軽減することが望ましいです。

本発明は、従来のアプローチを使用して作成および訓練された初期ニューラルネットワークを基本モデルとして提供することによってこれを達成する。 このトレーニングされたニューラル ネットワークは、合理化プロセスを使用して最適化され、所定の許容レベル内で最初のニューラル ネットワークとほぼ同じ出力を生成する、よりシンプルで最適化されたネットワークが生成されます。

合理化プロセスには、たとえばネットワークからノードを枝刈りするなど、実行中の処理の選択要素を削除することが含まれる場合があります。 要素は冗長であるか、ネットワーク全体の結果にほとんど影響を与えないため、削除される場合があります。

訓練され、最適化されたニューラルネットワークを生成するコンピュータ実装方法であって、ａ）訓練されたベースニューラルネットワークを使用して入力データを処理して第１の出力データを生成するステップと、ｂ）訓練されたニューラルネットワークを合理化することによって最適化されたニューラルネットワークを生成するステップと、ｃ）ステップとを含む。 ）最適化されたニューラルネットワークを使用して入力データを処理し、第２の出力データを生成する。ｄ）第１の出力データと第２の出力データを比較して、差異を判定する。 およびｄｅ）差が所定の閾値を超えた場合、合理化プロセスによってさらに最適化されたニューラルネットワークを生成する。 ｆ）差が閾値を下回るまでステップｃ）からｅ）を繰り返す。

貢献

この貢献は、トレーニングされたベース ニューラル ネットワークを合理化することによって最適化されたニューラル ネットワークを生成するコンピューター実装の方法であり、最適化されたネットワークの出力がベース ネットワークの出力と比較され、出力がしきい値を超えて異なる場合、さらに最適化されたネットワークが繰り返し生成されます。出力がベース ネットワークとのしきい値の差以内にあるものが見つかるまで、

貢献は、それ自体がコンピュータ用のプログラムにすぎません。 この貢献は、ベース ニューラル ネットワークから開始して、よりシンプルで最適化されたニューラル ネットワークを生成する反復プロセスです。 これは、1 つのコンピュータ プログラム (ベース ネットワークを実装するプログラム) を適応させて、最適化されたコンピュータ プログラム (最適化されたニューラル ネットワークを実装するプログラム) を生成するための単なる反復プロセスにすぎません。 本発明は、コンピュータ自体に関するいかなる技術的問題も解決していない。 処理負荷やメモリ使用量の削減は、より少ない命令でプログラムを実行した結果としてのみ発生します。 これは、本発明によって対処されるプロセッサ負荷およびメモリ使用量の問題を回避するものである。 (Gale [1991] RPC 305 の場合のように) より優れたプログラムまたは最適化されたプログラムを単に実行すること以上の技術的効果はありません。 技術的な貢献はありません。

請求項に規定された発明は、コンピュータ用プログラムそのものとして、第 1 項(2)により除外されます。

一般に、計算タスクの実行に使用される処理量を削減することが望ましいと考えられています。 これは特にニューラル ネットワークに当てはまります。 特に大規模なネットワークを処理するには、大量のコンピューティング リソースが必要になる場合があります。

発明者は、多くのアプリケーションにおいて、いくつかの非常に類似したデータを処理するためにニューラルネットワークが使用されていることを認識した。 たとえば、入力データが時系列の形式である場合、時系列の連続する時間ウィンドウに表示されるデータにはほとんど変化がない可能性があります。 例としては、ビデオ データの連続フレームや、1 時間間隔でサンプリングされた株価情報などが挙げられます。 2 つの連続する時間ウィンドウの差が十分に小さい場合、同じニューラル ネットワークを使用してこれらの各ウィンドウ内のデータを分類すると、同じ結果が得られる可能性があります。 このような場合、ニューラル ネットワークを使用して連続する時間枠でデータを分類すると、冗長または不必要な処理作業が発生します。

本発明のシステムは、例えば既知のハッシュ関数を時間窓に含まれるデータに適用することによって、時間窓ごとにインジケータを作成する。 システムはインジケーターを使用して、時間ウィンドウ間の差異をチェックします。 特定のウィンドウのインジケーターが前のウィンドウのインジケーターと異なる場合、特定のウィンドウのデータが分類のためにニューラル ネットワークに送信されます。 ただし、指定されたウィンドウのインジケーターが同じである場合は、前のウィンドウに対してニューラル ネットワークによって生成された分類が単純に再利用されます。

ニューラルネットワークを使用して時間インデックス付き連続データのストリームを処理するコンピュータ実装方法であって、第１の時間インデックス値を有する入力データの第１の部分を処理して第１のデータインジケータを生成するステップと、ニューラルネットワークは、入力データの第１の部分から第１の出力を生成し、第１の出力に関連して第１のデータインジケータを格納し、後続の時間インデックス値を有する入力データの第２の部分を処理して、第２のデータインジケータを生成し、比較する。第２のデータインジケータは第１のデータインジケータと結合する。 第２のデータインジケータが第１のデータインジケータと異なる場合、ニューラルネットワークを使用して第２の出力を生成し、第２のデータインジケータを第２の出力に関連付けて保存し、 2 番目のデータ インジケータが最初のデータ インジケータと同じ場合: 最初の出力を取得します。

貢献

この寄与は、データの第 1 部分と第 2 部分を有するデータ ストリームをニューラル ネットワークで処理する方法として特定されます。データ ストリームの第 1 部分の第 1 結果は、データ ストリームの第 1 部分をニューラル ネットワークで処理することによって生成されます。データ ストリームの最初の部分と 2 番目の部分の 2 番目の結果が生成され、指標が異なる場合は、ニューラル ネットワークで処理することによって 2 番目の部分の 2 番目の結果が生成されます。一方、指標が同じである場合は、2 番目の部分の 2 番目の結果が生成されます。 2 番目の部分は、最初の部分の最初の結果を再利用することによって生成されます。

このような除外として、貢献は完全にコンピュータ用プログラムの範囲内に収まります。 この方法により、ニューラル ネットワークの不必要な実行が回避されます。 特定のデータ ウィンドウがその前のウィンドウと異なる場合に、ニューラル ネットワークを実行してそのデータ ウィンドウを分類する必要があるだけです。 これにより処理のオーバーヘッドが軽減される可能性があるが、この利点はコンピュータが本発明のプログラムの実行に関与している場合にのみ感じられる。 これは、実行されているアプリケーションに関係なく、コンピューターに加えられた改良ではありません。 これは、コンピュータ自体の内部動作に関連する技術的な問題を解決するとみなすことはできません。 つまり、より優れたプログラムを単に実行する以上の技術的な効果はありません。 技術的な貢献はありません。

請求項に規定された発明は、コンピュータ用プログラムそのものとして、第 1 項(2)により除外されます。

ニューラル ネットワークのアクティブ トレーニングには、ニューラル ネットワークをテストして弱点領域を見つけることが含まれます。 次に、弱点領域のトレーニング データの例を使用してニューラル ネットワークをトレーニングし、全体的なパフォーマンスが向上します。

トレーニング演習のベースラインを提供するには、標本データセットを使用することが不可欠です。 これは既知のデータセットであり、信頼性が高く一貫した期待される結果が得られると言えます。

発明者は、AI によって処理された標本データの各要素について、精度の信頼レベルに到達できることに気づきました。 たとえば、標本データに動物の写真が含まれている場合、犬の識別の信頼度は猫よりも高い可能性があります。 信頼レベルをしきい値と比較することで、ユーザーはパフォーマンスの悪い領域を特定できます。 特定されたら、パフォーマンスの悪い領域に関連するさらなるトレーニング データを使用して AI の精度を強化できます。 標本データセットは、パフォーマンスの悪い領域に対処するために必要な範囲でのみ強化されます。 与えられた例では、標本データは追加の猫の写真で拡張されます。 これは、データセットをそのすべての要素にわたって単純に拡張するよりも効率的です。 新しいトレーニング データを既存のトレーニング セットに追加して、エンド ユーザーが実装をトレーニングするための完全な製品を提供することもできます。

ニューラルネットワークをトレーニングするコンピュータ実装方法であって、トレーニングデータの候補セットを用いて最初にニューラルネットワークをトレーニングするステップと、サンプル入力データセットに対して最初にトレーニングされたニューラルネットワークを実行するステップと、サンプルデータセットの各要素に対して、最初に訓練されたニューラルネットワークによる標本データ要素の解釈の精度の信頼レベルと、所定の要素に対する信頼レベルが所定の精度閾値を下回る場合、訓練データを、標本データ要素の所定の要素に関連するデータで増強する。標本データセットと、拡張されたトレーニングデータを使用してネットワークを再トレーニングします。

貢献

コントリビューションは、最初にトレーニングされたニューラル ネットワークによって標本データ セットの各要素の解釈の精度の信頼レベルを決定することを含む、ニューラル ネットワークをトレーニングする方法です。特定の要素の信頼レベルがしきい値を下回っている場合、特定の要素に関連するデータでトレーニング データを拡張し、拡張されたトレーニング データを使用してネットワークを再トレーニングします。

本発明は、ニューラルネットワークの精度を向上させるためにどのような特定の追加トレーニングデータが必要であるかを特定する問題を解決する。 これにより、より効率的なトレーニング方法が得られる可能性がありますが、それ自体がより効果的または効率的に動作するニューラル ネットワークを生成するわけではありません。 ニューラル ネットワーク内では技術的な問題は解決されていません。 特定の追加トレーニング データの識別は、ニューラル ネットワークを実行するコンピューター プログラムによって実行されますが、技術的な問題ではありません。 したがって、その問題を解決しても技術的な効果は得られません。

請求項に係る発明は、コンピュータ用のプログラムとしては除外される。

スマートフォンなどの最新のコンピューティング デバイスの多くには、CPU ホスト プロセッサ、グラフィックス プロセッサ (GPU)、ニューラル ネットワーク アクセラレータ (NNA) などの異種コンピューティング リソースが含まれています。 これらの異種コンピューティング リソースはそれぞれ、ニューラル ネットワークの機能を実行するために必要な処理を実行するための異なる機能を備えています。 これは、デバイス上のニューラル ネットワークのパフォーマンスを最適化するために、ニューラル ネットワークの層の処理タスクを部分に分割し、それぞれの機能に応じて異種コンピューティング リソースに部分を割り当てることが必要になる場合があることを意味します。

すべてのコンピューティング リソースがレイヤの各部分の処理を同時に終了 (またはランデブー) することが望ましいです。これにより、たとえば遅延や停止が回避され、コンピューティングのアイドル時間が短縮されるなど、各コンピューティング リソースの効率的な実行が可能になるためです。リソース。

この望ましい結果を達成するために、発明者は、クロック周波数を変更することによって、それぞれのコンピューティングリソースがその部分のそれぞれの処理をほぼ同時に完了できることを認識した。

複数のプロセッサを備える処理システム上でニューラルネットワークを動作させる方法であって、各プロセッサが異なるニューラルネットワークコンピューティング能力を有する方法であって、複数のプロセッサのそれぞれが、のプロセッサには、それぞれのニューラル ネットワーク コンピューティング能力に応じて層の処理の一部が割り当てられます。各プロセッサが層の処理の一部を実行するのにかかる時間を決定します。いずれかのプロセッサのクロック周波数を変更する必要があるかどうかを決定します。プロセッサがその部分を完了するのにかかる時間を変更し、その部分をそれぞれのプロセッサに分配する。 そして、プロセッサのクロック周波数を変更すべきであるとの決定に応答して、そのプロセッサがそのそれぞれの部分を処理するときに、そのプロセッサのクロック周波数を変更する。

貢献

この貢献は、異種コンピューティング リソースを使用してニューラル ネットワークを動作させる方法であり、ニューラル ネットワークの層の処理負荷が処理リソース間で共有され、少なくとも 1 つの処理リソースのクロック周波数が調整されて時刻が変更されます。処理の一部が終了します。

この貢献は単なるコンピュータ用のプログラムを超えたものであり、本質的に技術的なものです。 これは、関連する技術的な意味で新しい方法でコンピュータを操作するプロセスが含まれるためです。たとえば、1 つのプロセッサのクロック周波数を制御して、各異種プロセッサが同時にニューラル ネットワーク層のその部分の実行を終了するようにするなどです。 。 標識 (iii) は特許性を示します。

請求項に定義された発明は、セクション 1(2) に基づいて除外されません。

ニューラル ネットワークなどの機械学習モデルでは、処理ユニット (ハードウェア アクセラレータなど) による複雑な計算の実行が必要な場合があります。

たとえば、ニューラル ネットワークには、入力データを使用して畳み込み計算を実行するための 1 つまたは複数の畳み込みニューラル ネットワーク層が含まれる場合があります。 これらの層の処理には通常、入力データの非常に大きな行列を伴う多数の行列乗算が含まれます。 この種の計算を既存の処理装置を使用して実行すると、計算コストが高くなります。

さらに、特定の機械学習アルゴリズムの性質は、ニューラル ネットワークの特定の層の入力データの大部分がゼロの値を持つことを意味します。 これは、既存の処理ユニットが、1 つの数値 (コンボリューション カーネル値など) とゼロ値の乗算を含む、多数の不必要な計算を実行することを意味します。

本発明者は、入力値がゼロであることを確認すると計算をスキップまたはバイパスできる処理ユニットを考案し、既知の処理ユニットと比較して処理ユニットの計算効率を高めるという利点を有する。

所与のニューラルネットワーク層によって処理されるデータ値のセットが受信され、処理ユニットのメモリに格納される。 処理ユニットには、入力データのゼロ値と非ゼロ値をチェックする制御ユニットがあります。 制御ユニットは、非ゼロ入力データ値を格納するメモリのメモリアドレスのみを識別するアドレスインデックスを生成する。

制御ユニットは、アドレス インデックスを使用して非ゼロ入力データ値を格納するメモリ アドレスを選択し、非ゼロ入力データ値をデータ バスに提供して、処理要素のアレイで処理できるようにします。

複数の層を有するニューラルネットワークの計算を実行するためのコンピュータ実装方法であって、メモリ、データバス、制御ユニット、および処理要素のアレイを有する処理ユニットによって実行される方法であって、前記方法は、処理ユニットと、複数のレイヤのうちのレイヤによって処理される複数の入力データ値と、入力データ値のそれぞれがゼロ値または非ゼロ値を有するかどうかを制御ユニットによって決定し、複数の入力データ値を記憶するステップと、メモリ内の入力データ値を制御ユニットによって生成し、ゼロ以外の入力データ値を格納するメモリ内のメモリアドレス位置のみを識別するアドレスインデックスを生成する。 そして、アドレスインデックスによって識別されるメモリアドレス位置に基づいて、制御ユニットによって、非ゼロ入力データ値をメモリからデータバスを介して処理要素のアレイに提供する。

貢献

この貢献は、ニューラル ネットワーク層によって処理される受信した入力データ値がゼロ値であるか非ゼロ値であるかを判断し、非ゼロ値であるメモリ アドレスを識別するアドレス インデックスを生成する制御ユニットを備えた処理ユニットでの機械学習計算の実行に関連しています。 -ゼロの入力データ値が保存され、アドレス インデックスを使用してゼロ以外の入力データ値を処理要素の配列に提供します。

寄与はニューラル ネットワークの特定の層に必要な機械学習計算のパフォーマンスに限定されますが、寄与には、ゼロ以外の入力のみを処理するように処理要素の配列を制御するために効果的に使用されるアドレス インデックスの生成が含まれます。メモリに保存されているデータ値。 これは、道標 (iii) に従って、技術的な意味で新しい方法でコンピュータを操作する例です。 この貢献は、道しるべ (v) に従って、既存の処理ユニットの計算効率を向上させるという問題に対する技術的解決策です。 本発明は、単なるコンピュータ用のプログラム以上のものである。

本発明はセクション 1(2) に基づいて除外されません。

機械学習タスクに分散コンピューティングを使用することはよく知られています。 たとえば、ニューラル ネットワークを繰り返しトレーニングする場合、トレーニング データのセットが細分化され、分散コンピュータ システムの処理ノード間で共有されることがあります。 次に、各ノードは、トレーニングデータを処理して、それぞれの部分トレーニング結果、たとえばニューラルネットワーク内の1つまたは複数の重みを調整する量を生成することができる。 これらの部分的な結果は削減され (つまり、計算関数で処理され)、完全な結果が生成され、トレーニングの次のステップが発生する前にノードにブロードキャストされて各ノードの機械学習モデルが更新されます。

いくつかの既存のトポロジ (例: リング、トーラス) およびデータ交換方法 (例: オールリデュースおよびオールギャザー方法) は、機械学習で見られるようなワークロードを処理する際の分散コンピューティング システムの効率を最適化するために考案されています。 発明者は、機械学習タスクを効率的に処理できる新しいトポロジーと交換方法を考案しました。

トポロジを上の図に示します。 処理ノード (P0A ～ P3B など) はグループに配置されます。 グループの各ノードは、第１および第２の通信リンクによってグループ内の他のノードに接続される。 グループはリング内で相互接続されているため、各ノードは単一のグループおよび単一のリングのメンバーとなります。

トポロジで使用されるデータ交換方法は反復的に機能します。 グループの各ノードは、それぞれ第１および第２のリンクを介して、データ要素の配列からの２つのデータ要素をそのグループ内の他のノードと交換する。 次に、各処理ノードは、データ要素を順次共有して結合するプロセスを通じて、受信した各データ要素を、その格納されたデータ配列内の対応する位置で見つかったデータ要素に縮小します。

単一のグループ内のすべてのノードが第 1 および第 2 のリンクによってグループ内の他のノードに接続されるように、グループおよびリングに配置されたプロセッサ ノードを含むコンピュータを動作させる方法。グループは、各ノードが単一のグループおよび単一のリングにおいて、この方法は、各プロセッサノードが入力データを処理して要素の出力データ配列を生成する機械学習集団を動作させるステップと、機械学習集団の交換ステップを使用してデータ要素を交換するステップと、を含む。 各交換ステップにおいて、すべてのグループの処理ノードは、それぞれ第１および第２のリンクを介して、２つのデータ要素をそのグループ内の他のノードと交換し、すべての処理ノードは、受信した各データ要素を対応する位置のデータ要素で縮小する。その処理ノード上の配列内にあります。

貢献

この貢献は、新しいトポロジを使用した機械学習手法と、ノードの相互接続とデータ交換の方法を通じて分散コンピュータ システム上の機械学習タスクのパフォーマンスを最適化するデータ交換手法です。

この貢献は、機械学習手法であることに加えて、新しいコンピュータ トポロジとデータ交換手法に関係しているため、単なるプログラムそのものではありません。 これは、関連する技術的な意味で、新しい方法でコンピュータ システムを操作するハードウェアの新しい配置の一例です。 技術的貢献は道標 (iii) に従って明らかになります。 この貢献は、本発明によって対処される問題、すなわち、プログラムとして具体化されるが集合的な機械学習タスクを効率的に実行するように分散コンピュータシステムをどのように配置するかという問題に対する技術的解決策である。 道標 (v) も特許性を示しています。

本発明はセクション 1(2) に基づいて除外されません。