Преступники уже существовали, а вот тюрем-то и не было. Это вынудило Дерибаса пренебречь законами Российской империи 1560 года, запрещающими содержать осужденных в глубоких ямах. По его приказу были вырыты двадцать таких ям, которые сразу же были заполнены ожидавшими следствия и получившими срок людьми. Так как финансирования на содержание преступников вообще не было предусмотрено, то Дерибас дал указание попарно заковывать их в ножные и ручные колодки и выводить в общественные места, в первую очередь, на базары, для выпрашивания милостыни у прохожих. Такой порядок, правда, просуществовал недолго.

Развитие Одессы и приток в город большого количества жителей из окрестных сел, а также из центральной полосы России вызвали значительный прирост населения, но уровень преступности заметно упал. Свою роль тут, наверное, сыграла и жесткость наказания. Сменившие Дерибаса градоначальники построили для содержавшихся под стражей и осужденных специальные помещения. Справедливости ради надо отметить, что они далеко не во всем отвечали предъявляемым требованиям и не отвечали существовавшему тогда стандарту.