Nodaro ドキュメント
ドキュメントノードリファレンスモデルAI エージェント(MCP)開発者向けセルフホスティングリサーチ
自動化

重複を削除

リストから重複した項目を取り除き、それぞれ最初の 1 つを残します。スクレイピングや結合で作ったリストを、項目全体か、id や url などのフィールドで比較できます。

重複を削除(Remove Duplicates)ノードは、リストから重複した項目を取り除き、それぞれ最初の 1 つを残します。デフォルトでは項目全体を比較しますが、id や url など、各項目の中の 1 つのフィールドで比較することもできます。フィールドでの比較は、スクレイピングしたレコードに向いています。残った項目の順番は変わりません。このノードは無料です。

使いどころ

  • スクレイピングで、同じ投稿が複数回返ってきたとき。id や url でコピーを取り除きます。
  • 重なりのある 2 つのリストを結合したので、各項目を 1 つだけにしたいとき。
  • バッチの各プロンプトを、1 回だけ実行したいとき。

クイックスタート

ノードを追加する

キャンバス上で Tab を押し、自動化 › リストとバッチ処理 › 重複を削除を選びます。

比較する対象を選ぶ

設定パネルを開きます。項目全体を比較するには、重複を判定するフィールドを(項目全体)のままにします。または、項目を識別するフィールドを選びます。

実行する

重複なし出力が、重複を取り除いたリストを渡します。実行後は、パネルに重複のない項目のプレビューと、その数が表示されます。

リストリストリストWeb スクレイピング検索 1Web スクレイピング検索 2リストを結合連結重複を削除url で判定
2 つの検索結果が 1 つのリストに結合され、重複を削除が url を比較して、各結果を 1 つずつ残します。

入力と出力

入力/出力受け取るもの/送るもの説明
リストテキストまたは JSON の項目のリスト整理するリストです。
重複なしリスト各項目の最初のコピーを、元の順番で並べたものです。

設定

設定説明
重複を判定するフィールド2 つの項目を同じとみなす基準です。デフォルトの(項目全体)は、項目全体をテキストとして比較します。上流のデータから検出されたフィールドを選ぶか、カスタムパス…を選んで id や metadata.url のようなドットパスを入力します。パスが項目に一致する場合、その項目は JSON として読み取られます。

クレジット

重複を削除ノードは無料です。

ヒント

  • 識別子で比較する:同じ投稿を 2 回スクレイピングすると、いいねの数など、細かい部分が異なることがあります。id や url で比較すれば、それらを 1 つの投稿として扱えます。
  • 結合と整理を 1 ステップで行う:リストを結合して、完全に同じ項目を取り除くだけで十分な場合は、リストを結合の結合後に重複を削除をオンにします。

よくある質問

最終更新

目次