Иногда в повседневной компьютерной деятельности возникает задача найти дубликаты файлов. Причин для этого может быть множество: нехватка места на жестком диске, попытки уменьшить энтропию в своих файлах, разобраться со сброшенными в разное время фотографиями с фотоаппарата и множество других нужных случаев.
В сети можно найти большое количество программ, которые позволяют искать дубликаты файлов. Но зачем искать какие-то программы, если шикарный инструмент для такой работы обычно всегда под рукой. И называется этот инструмент Total Commander (TC ).
В этой статье я покажу все методы на основе Total Commander версии 8.5 , в этой версии поиск дубликатов файлов стал очень богат функционально.
!!!Маленькое важное отступление. Что нужно понимать под словом дубликат файла? Два файла ИДЕНТИЧНЫ только тогда, когда они полностью совпадают побитно. Т.е. любая информация в компьютере представлена последовательностью нулей и единиц. Так вот, файлы совпадают только тогда, когда у них полностью совпадает последовательность нулей и единиц, из которых эти файлы состоят. Все разговоры о том, что можно сравнить два файла по какому-либо другому признаку, глубоко ошибочны.
В TC есть два, различающихся по своей сути, метода поиска дублирующихся файлов:
- Синхронизировать каталоги;
- Поиск дубликатов;
Их особенность и применение лучше всего показать на примерах.
1.Синхронизация каталогов.
Данный метод применяется тогда, когда у вас две сравниваемые папки имеют идентичную структуру. Это обычно бывает во многих случаях, вот несколько из них:
- Вы регулярно делали архив своей рабочей папки. Через какое-то время вам понадобилось выяснить, какие файлы были добавлены или изменены с момента создания архива. Вы распаковываете весь архив в отдельную папку. Структура папок в нем практически совпадает с рабочей. Вы проводите сравнение двух папок «исходной» и «восстановленной из архива» и легко получаете список всех измененных, добавленных или удаленных файлов. Пара несложных манипуляций — и вы удаляете из восстановленной папки все дубликаты файлов, которые есть в рабочей.
- Вы работаете в папке на сетевом диске и регулярно делаете копию к себе на локальный диск. Со временем ваша рабочая папка стала довольно большой и время, затрачиваемое на полное копирование, стало очень большим. Чтобы не копировать каждый раз всю папку, можно сначала провести сравнение с резервной и скопировать только те файлы, которые были изменены или добавлены, а также удалить в резервной папке файлы, которые были удалены из основной.
Когда вы войдете во вкус, почувствуете всю предоставленную мощь этого метода, вы сами сможете придумать тысячи ситуаций, когда метод синхронизации каталогов окажет вам огромную помощь в работе.
Итак, как же все происходит на практике. Приступаем.
Предположим у нас есть основная папка «Рабочая» , в которой лежат файлы, с которыми происходит работа. И есть папка «Архив» , в которой лежит старая копия папки «Рабочая» . Наша задача найти в обеих папках дублирующиеся файлы и удалить их из папки «Архив» .
Открываем TC. В правой и левой панелях открываем сравниваемые папки:
Нажимаем меню «Команды»-«Синхронизировать каталоги…»
Открывается окно сравнения каталогов
Далее нам необходимо установить параметры сравнения. Ставим галочки в параметры «с подкаталогами», «по содержимому», «игнорировать дату»
- «с подкаталогами» — будут сравниваться файлы во всех подкаталогах, указанных папок;
- «по содержимому» — вот ключевая опция, которая заставляет TC сравнивать файлы ПОБИТНО!!! В противном случае, файлы будут сравниваться по имени, размеру, дате;
- «игнорировать дату» — эта опция заставляет TC показывать различающиеся файлы, без попытки автоматического определения направления будущего копирования;
!!! Сравниваться будут файлы только с одинаковыми именами!!! Если файлы идентичны, но они имеют разное имя, то они не будут сравниваться!
Нажимаем кнопку «Сравнить».
В зависимости от объёма файлов, сравнение может идти очень долго, не пугайтесь. В конце концов сравнение закончится и в нижней строке состояния(на рисунке секция 1) отобразится результат:
Если кнопки в секции «Показывать» (на рисунке секция 2) нажаты, то вы увидите результат сравнения для каждого файла.
— эта кнопка включает отображение файлов, которые есть в левой панели, но которых нету в правой;
— эта кнопка включает отображение идентичных файлов;
— эта кнопка включает отображение различающихся файлов;
— эта кнопка включает отображение файлов, которые есть в правой панели, но которых нету в левой;
Если у вас, изначально, все кнопки отображения выключены, то результат сравнения можно оценить только по строке состояния (на рисунке выше секция 1), в данном случае мы видим что сравнились 11 файлов, из которых 8 файлов являются одинаковыми, 2 файла различаются, и еще в левой панели имеется файл, которого нет в правой панели.
Для выполнения нашего задания необходимо оставить отображение только идентичных(одинаковых) файлов, поэтому все остальные кнопки отображения выключаем
Теперь у нас остались только идентичные файлы, и мы спокойно можем удалить их в папке «Архив»
. Для этого выделяем все файлы. Проще всего это сделать нажатием универсальной комбинации CTRL+A
. Или сначала выделить мышкой первую строчку, потом нажать на клавиатуре клавишу SHIFT
и не отпуская ее выделить мышкой последнюю строчку. В результате у вас должно получиться вот так:
Заключительным шагом мы нажимаем правой клавишей мышки на любую строку и в открывшемся меню выбираем пункт «Удалить слева»
TC любезно переспрашивает нас о нашем желании,
и если мы нажимаем «ДА»
, то он удаляет все помеченные файлы в папке «Архив»
.
После этого, автоматически, происходит повторное сравнение двух папок. Если вам не нужно повторное сравнение, то процесс можно прервать, нажав на кнопку «Прервать»
или нажать клавишу ESC
на клавиатуре. Если повторное сравнение не было прервано, и мы включили все кнопки отображения, то мы увидим вот такое окно
Все. Поставленная задача выполнена. Все одинаковые файлы найдены и удалены в папке «Архив» .
Обучающее видео по теме
2.Поиск дубликатов.
Коренное отличие данного метода от метода синхронизации каталогов заключается в том, что TC игнорирует имена сравниваемых файлов. Фактически, он сравнивает каждый файл с каждым, и показывает нам идентичные файлы как бы они не назывались ! Такой поиск очень удобен, когда вы не знаете ни структуры папок, ни имен сравниваемых файлов. В любом случае, после поиска дубликатов, вы получите точный список идентичных файлов.
Поиск дубликатов я покажу на одной практической задаче, поиске дубликатов личных фотографий. Довольно часто вы сбрасываете в компьютер фотографии со своих цифровых гаджетов. Частенько ситуация запутывается, что-то сбрасывается по многу раз, что-то пропускается. Как быстро удалить файлы, сброшенные несколько раз? Очень просто!
Приступаем.
Предположим, вы всегда сбрасываете все свои фотографии в папку «ФОТО»
на диске D. После всех сбросов папка имеет примерно такой вид:
Как видим, некоторые файлы находятся в папках, названных по дате съемки, некоторые сброшены в корень папки «_Новые»
и «_Новые1»
Чтобы начать поиск дубликатов открываем в любой панели TC папку, в которой будем искать. В нашем случае это папка «ФОТО»
Далее нажимаем на клавиатуре комбинацию клавиш ALT+F7
или в меню выбираем «Команды»-«Поиск файлов»
Открывается окно стандартного поиска TC. Строку «Искать файлы:»
оставляем пустой, тогда будут сравниваться все файлы.
Затем переходим на закладку «Дополнительно»
и выставляем галочки «Поиск дубликатов:», «по размеру», «по содержимому»
и нажимаем «Начать поиск»
.
Поиск может идти ОЧЕНЬ долго, не надо этого пугаться, так как происходит огромное количество сравнений большого объёма файлов. При этом в строке состояния показывается процент выполнения
Когда поиск закончится, откроется окно результатов поиска, в котором нажимаем кнопку «Файлы на панель»
В окне поиска и в окне панели идентичные файлы собраны в секции, отделенные пунктирными линиям
В каждой секции отображается имя файла и полный путь к файлу. Имена ИДЕНТИЧНЫХ файлов могут быть абсолютно различными!
В данном случае видно, что одна и таже фотография записана ТРИ раза, причем два раза под одним именем(IMG_4187.JPG
) а третий раз эта фотография записана под совершенно другим именем(IMG_4187_13.JPG
).
Далее остается выделить ненужные одинаковые файлы и удалить их. Это можно делать вручную, выделяя каждый файл нажатием клавиши Ins . Но это долго и не эффективно. Есть более правильные и быстрые способы.
Итак, наша задача состоит в том, чтобы удалить повторяющиеся файлы в папках «_Новые»
и «_Новые1»
.
Для этого нажимаем на дополнительной клавиатуре, справа большую клавишу [+]
. Обычно этой клавишей в TC выделяются файлы по маске. Эту же операцию можно сделать через меню «Выделение»-«Выделить группу»
Что такое дубликат файла:
Это копия какого либо файла, находящегося на компьютере в абсолютно другой директории, или же диске, папке и имеет то же название что и оригинальный файл, вес, а также расширение.
Дубликаты файлов практически есть на каждом персональном компьютере, даже если вы не делали копию, (дубликат) ваших файлов, (с целью каких либо сбоев в системе) , они всё равно будут на вашем компьютере.
Откуда берутся дубликаты файлов:
Например вы с интернета скачали два альбома песен одного и того же исполнителя, в основном композиции песен в сборниках повторяются, т.е. одинаковые, так же и с фотографиями — в разных папках одинаковые фото, со временем работы на компьютере этих дубликатов файлов становиться всё больше и больше соответственно они занимают много место на жестких дисках вашего компьютера или флешке, также это приводит к торможению работы системы вашего ПК.
По этому их необходимо периодически удалять. Удалив дубликаты файлов можно значительно увеличить свободное место на жестких дисках вашего ПК — Скачать данную программу можно по этой ссылке. Программа на русском языке и имеет интуитивно понятный интерфейс, так что разобраться в программе будет не так уж и сложно.
Установка программы:
Распаковываем архив, жмём на установочный файл программы, в открывшемся окне программы жмём «NEXT»
В следующем окне соглашаемся с лицензией «I accept the agreement» жмём "NEXT"
После чего ставим галочку "Create a desktor icon" создать ярлык на рабочем столе,жмём «Next»
Настройка программы:
Запускаем программу и в открывшемся окне слева выбираем нужный нам жёсткий диск или внешний носитель, рекомендую выбрать все диски для сканирования на дубликаты.
В центр окна выбираем те типы файлов, которые будет искать программа на ПК. Есть два варианта поиска. «Среди файлов всех типов» и «Среди только этих типов файлов„.
Рекомендую выбрать второй “Среди только этих типов файлов» для того чтобы избежать удаление нужных файлов, которые используются системой. Также вы можете убрать галочку с какого либо раздела, если не хотите его сканировать на дубликаты файлов. после выбора нужных настроек жмём «Далее».
В следующем окне будут настройки «игнорировать файлы размером меньше 1 МБ». Также можете выбрать настройку для «игнорировать файлы размер которых больше 1 ГБ».Созданные значения в программе вы также можете изменить на свои. Я поставлю галочки в обоих пунктах. Жмём «Далее».
В следующем шаге можете выбрать настройки поиска дубликатов, игнорируя имя и дату создания файла. По умолчанию, в программе стоит галочка на пункте "игнорирования даты создания файла".
Можете выбрать оба пункта, тогда программа сделает более широкое сканирование выбранных жёстких дисков. Выбираем нужные настройки и жмём «Далее».
В следующем окне выбираем что делать с найденными дубликатами. В программе по умолчанию установлено удаление в корзину, для того чтобы вы смогли восстановить те файлы, которые по вашему мнению, были удалены по ошибке.
Во втором пункте восстановление файлов будет происходить уже из созданного архива. В третьем пункте всё понятно, файлы с компьютера удаляются безвозвратно. Выбираем нужные настройки и жмём «Поиск».
Поиск дубликатов файлов:
Программа начнёт поиск дублирующих файлов. Сканирование жёстких дисков проходит в 3 этапа:
1. Программа определяет количество папок;
2. После этого программа находит те папки, которые содержат типы файлов, которые вы выбрали в настройках для поиска, затем проверяется дата и имя создания файла;
3. После чего производится полная проверка жёстких дисков и внешних носителей.
По завершению поиска откроется окно, с результатом сканирования программы на дубли. У меня на компьютере программа нашла 71 дубль файла, размером 635,88. В окне программы представлено имя файла, его местонахождение на диске, размер файла, и дата последнего изменения.
Далее жмём на кнопку "Выбрать" внизу окна и выбираем наиболее подходящий пункт для удаления дубликатов файлов. Я выбрал «Выбрать все дубликаты в каждой группе» далее жмём "Удалить выбранные файлы" и подтверждаем в открывшемся окне кнопкой ОК.
Также вы можете отметить файлы вручную, поставив галочку напротив выбранных файлов, после чего нажать на соответствующую кнопку удаления. Все дубликаты файлов которые вы отметили будут удалены, в ту директорию в которую ранее вы указали для их удаления, (в нашем случае это корзина).
После чего закрываем данную программу. Auslogics Duplicate File Finder предназначена для поиска дубликатов файлов на жёстких дисках и внешних носителях. На этом я буду заканчивать данный пост, надеюсь получился полезный. Всем ПОКА!!!
С Уважением,
Одним из самых быстрых способов забить жесткий диск — хранение дубликатов файлов. Наверняка многие даже не подозревают об их существовании… они могут иметь разное происхождение: случайные копии, множество одинаковых загрузок и так далее. Одно можно сказать точно — они действительно могут создавать вам некоторые проблемы.
Множество дубликатов создаются из-за необходимости держать файл в «безопасности»… например перед редактирование документа я мог сделать копию на всякий случай, а потом забыть… или у меня уже есть такой документ, а я его еще раз скачал из почты. К сожалению таких дублей может быть очень много и получается что вы забиваете свободное место бесполезной информацией.
С помощью этих инструментов вы можете вычислить и удалить дубликаты файлов за считанные минуты и освободить много ценного места на жестком диске. Я буду рассматривать только бесплатные утилиты, поэтому вы ничего не теряете!
Поиск дубликатов файлов. Обзор лучших инструментов
Эта утилита наверное мой фаворит в инструментах для поиска и удаления дубликатов, потому что имеет массу замечательных возможностей: Она является кросс платформенной, полностью бесплатная, а так же имеет продвинутый алгоритм меток и отбора.
Что такое не явные дубли? Несколько одинаковых файла могут иметь разное имя. Например у вас на компьютере может быть два файла: пример-файла.avi и пример файла(1).avi — утилитка это прекрасно понимает и тоже может пометить их как дубликат.
Кстати утилита имеет и другие издания: Music Edition и Picture Edition, оптимизированные для поиска дублей графических и аудио файлах — даже если они записаны в разных форматах. Это очень важно, ведь именно аудио и графические файлы наиболее часто становятся дублями.
Duplicate Files Finder представляет собой приложение, которое осуществляет поиск дублированных файлов (которые имеют одинаковое содержание, но не обязательно с таким же именем) и позволяет удалить пользователю ненужные файлы.
Duplicate Files Finder может находить только точные дубликаты. Принцип ее работы — перебор всех файлов на компьютере по размеру и сравнение их по содержанию. С одной стороны это логично, но это совсем печально для видео и графики (ведь они в зависимости от алгоритма сжатия могут иметь разный размер) , но для всего остального программа просто отличная.
Благодаря такому алгоритму сравнения Duplicate Files Finder работает гораздо быстрее своих конкурентов.
AllDup является мощным инструментов для поиска дубликатов созданный одним человеком, Michael Thummerer. Утилита имеет ряд настроек для поиска дублей из: имени файла, расширения и типа данных, даты создания и изменения и еще много разных параметров.
AllDup имеет много полезных функций и большую гибкость в условиях поиска дубликатов, однако за функционал нужно заплатить. Интерфейс тут совсем не дружелюбный и это может загнать неуверенного пользователя в тупик. Однако если вы сможете разобраться в программе, то это приложение будет хорошим инструментом для поиска повторяющихся файлов.
Duplicate Cleaner требует тонкой ручной настройки, прежде чем вы сможете использовать функционал данной программы на все сто процентов.
При ручной настройке вы можете выбрать в какой папке нужно найти дубли, а не сканировать весь компьютер как предлагают нам некоторые другие программы. В итоге вы можете эти дубли удалить, переместить их все в отдельную папку или вместо них создать ярлыки на единственный нужный файл. В целом впечатления положительные — так что рекомендую.
Если вы пользователь Windows, и хотите избавиться от бесконечных копий изображений, то SimilarImages будет вам как никогда кстати. Изображения на мой взгляд самый частый источник дублированного контента на компьютере. Я например знаю что у меня есть куча дублирующихся фотографий в разных папках… а учитывая их количество разбираться с ними вручную у меня нет никакого желания.
Программа имеет гибкие настройки и может обнаруживать неточные дубликаты — это особенно актуально из-за присутствия артефактов появившимся в процессе сжатия изображения.
Самое замечательное в SimilarImages — она показывает вам два изображения когда находит дубли, и вы можете сделать вывод — оставить их или удалить дубль.
Заключение
Все как в реальной жизни, когда ненужное барахло создает ужасный беспорядок в вашем доме, так и дубликаты файлов могут накапливаться на вашем жестком диске. Такие файлы очень трудно удалить, потому что вы о нем забыли, а обычные программы для очистки системы не найдут их — так как они обосновалить на винчестере на вполне законных основаниях.
Используйте программы которые я вам перечислил для поиска дубликатов файлов чтобы освободить место на вашем жестком диске. Если вы знаете о других утилитах — поделитесь с нами в комментариях.
Вконтакте
Здравствуйте Уважаемый Друг.
При работе с файлами и документами, мы достаточно часто делаем резервные копии важных данных. В одной папке в другой в третьей… А потом даже забываем сколько копий того или иного файла мы сделали и где на диске они хранятся.
В результате свободное дисковое пространство отъедается ненужными копиями файлов и папок. Как же найти дубликаты файлов на всех ваших дисках и удалить их?
Всё очень просто, мы воспользуемся небольшой бесплатной утилитой с поддержкой русского языка – Soft4Boost Dup File Finder .
Скачать программу можно тут:
После установки программы откроется главное окно:
Если мы поставим галочку напротив пункта «Игнорировать имена файлов», то при поиске не будет использоваться совпадение имён файлов, поиск будет происходить по внутреннему содержанию файла. Это очень важно, ведь одинаковые файлы могут называться по-разному. Благо все подсказки в программе на русском языке.
Чуть ниже можно выбрать тип файлов для поиска дубликатов.
Выбираем нужные диски или отдельные папки (по нажатию на плюсики). Затем нужно нажать на изображение папки со стрелочкой вправо, чтобы добавить нужный список папок для сканирования программой.
В этом окошке выбираем способ удаления файлов. Первый вариант в корзину с возможностью восстановления. Нужно помнить, что размер корзины ограничен. Для того чтобы увеличить размер корзины, зайдите в свойства значка корзины на рабочем столе и установите размер в мегабайтах.
Также можно выбрать вариант безвозвратно, но я рекомендую сначала удалять в корзину. Если что то не так, то всегда можно восстановить файл.
Нажимаем кнопку «Поиск».
После того как сканирование закончится перед вами откроется окошко с найденными дубликатами файлов.
Выберите галочками файлы, которые нужно удалить и нажмите на кнопку в верхней части окна «Исправить проблемы», выбранные дубликаты удаляться.
Вот таким простым способом можно избавиться от многочисленных дубликатов файлов на ваших дисках.
Из минусов программы я бы отметил невозможность просмотра найденных файлов по нажатию двойным кликом мыши. Было бы очень удобно сразу же просмотреть файл и вспомнить, что это за файл такой.
P.S. Делитесь статьёй со своими друзьями в социальных сетях, все необходимые кнопки ниже. Чем больше людей меня читает, тем больше полезных материалов выходит.
Ну и, конечно же, не забывайте подписываться на мой YouTube канал: http://www.youtube.com/user/ArtomU
Вступайте в группу Вконтакте:
Какими бы ни были объемными современные жесткие диски, растягиваться, увы, они пока еще не умеют.
Для любителей беспорядочно скачивать к себе на компьютер разнообразный контент это означает, что рано или поздно Windows выдаст сообщение о невозможности скопировать или сохранить тот или иной файл по причине нехватки свободного места.
Программа для поиска дубликатов файлов
В таком случае волей неволей приходится делать выбор: покупать внешний жесткий диск, перемещать файлы и DVD-диски или попросту удалять часть контента, чтобы освободить место для новых данных. Однако спешить не стоит.Одной из самых распространенных причин нехватки места на винчестере является дублирование файлов.
Бывает такое, что пользователь, забыв, что файл уже был скачан, загружает его повторно, возможно под другим именем и с другими метаданными.
Поэтому так важно перед освобождением диска от “балласта” произвести поиск на предмет наличия дубликатов файлов.
Программа Duplicate Cleaner
Сделать это можно с помощью программы Duplicate Cleaner специально предназначенной для поиска дубликатов файлов разных типов. Благодаря этому мощному и эффективному инструменту вы в считанные минуты сможете избавиться от дубликатов видео, аудио, тестовых , фотографий и прочих типов файлов. От аналогичных программ Duplicate Cleaner отличается высокой скоростью и точностью работы.
Кроме того программой поддерживается множество разнообразных фильтров, позволяющих выполнять поиск по заданным параметрам – имени, расширению, метаданным и т.п. Также стоит отметить возможность поиска на сетевых дисках и внутри архивов Zip, предпросмотр дубликатов (только изображений), сохранение произведенных операций в лог, экспорт результатов работы в формат CSV.
Anti-Twin
Duplicate Cleaner не единственная программа способная отыскать и удалить повторяющиеся файлы. Anti-Twin бесплатная, быстрая утилита ищет дубликаты ничуть не хуже.
Для начала поиска достаточно указать анализируемый раздел или директорию и нажать кнопку старта – Anti-Twin выведет список дубликатов с указанием полного пути, количества объектов, даты и размера.
Утилитой поддерживается поиск по заданным критериям, уровню соответствия (в процентах), предпросмотр изображений, быстрый переход к найденному и много других дополнительных функций.
Из особенностей данной утилиты можно отметить возможность сравнения двух директорий. Anti-Twin может использоваться как портативное приложение. К сожалению, в Anti-Twin нет русского языка, так что настройка некоторых опций может вызывать у пользователя не знакомого с английским определенные сложности.
SMF – Search my Files
Достаточно мощная и функциональная программа для поиска дубликатов. Отличительная черта этого приложения – огромное количество всевозможных фильтров и настроек. SMF – Search my Files поддерживается поиск по размеру, расширению, метаданным и множеству других критериев. Благодаря этому приложению можно извлечь и проанализировать альтернативные потоки ADS из любого типа файла.
Найденные дубликаты можно удалить (в том числе без возможности восстановления), переместить, скопировать, изменить его атрибуты (скрытый, только для чтения, архивный и т.д.). Также поддерживается экспорт в тестовый формат, просмотр и редактирование данных во встроенном шестнадцатеричном редакторе, поиск по командной строке. В установке SMF – Search my Files не нуждается и может запускаться с любого носителя.
Итог
Какая из этих трех программ для поиска дубликатов является лучшей? Сложно сказать. Все зависит от того, какие цели вы преследуете и каким уровнем подготовки обладаете.
Anti-Twin и SMF – Search my Files хороши, но по причине множества специфических функций больше подходят для использования опытными пользователями и системными администраторами.
