unix – 如何从文件中删除重复的行

我有一个生成测试并预测输出的工具.我的想法是,如果我失败了,我可以将预测与实际输出进行比较,看看它们的分歧.问题是实际输出包含两行,这会混淆diff.我想删除重复项,以便我可以轻松地比较它们.基本上,像排序-u但没有排序.

是否有任何unix命令行工具可以执行此操作？

uniq(1)

概要

uniq [OPTION]… [INPUT [OUTPUT]]

描述

discard all but one of successive identical lines from INPUT (or standard input),writing to OUTPUT (or standard output).

或者,如果你想删除不相邻的重复行,perl的这个片段也会这样做：

while(<>) {
    print $_ if (!$seen{$_});
    $seen{$_}=1;
}

原文地址：https://www.jb51.cc/bash/387030.html