Вводятся нововведения, стабильная работа начнется со следующего понедельника...
Загрузка...
Произошла ошибка!
Новости IT → Сука, блядь, какое же медленное говно этот ваш ext4

time tar cf /dev/zero Maildir занимает 2 минуты, на 200МБ папке, блядь! Это 2МБ в секунду, у меня интернеты в пять раз быстрее, ёбаный насрать! Причем в ext2 и btrfs скорость поднимается до 20МБ/18МБ/с, что всё-равно в 5 раз ниже максимальной скорости привода. Сука, мне говорили что пинуксовые ФС специализируются на маленьких файлах, а тут такой адовый обсёр, сука.

2142208 | -4 | 09 Июля 2013 @ 10:39 | №2142208 | Добавить комментарий
09 Июля 2013 @ 10:42, №2142209 2142209

однажды кудах захотел перекачать файл на ext4

09 Июля 2013 @ 10:48, №2142213 2142213

а тут такой адовый обсёр, сука.

09 Июля 2013 @ 10:51, №2142221 2142221

Лол, ext2 не может в журналирование, а btrfs экспериментальна, и да, заточена под мелкие файлы. ReiserFS еще можешь попробовать. Алсо отключи журналирование, может поможет.
А вообще ты только что с коляски упал, лол.

09 Июля 2013 @ 10:53, №2142223 2142223

>>2142221
Про рейзерфс забыл написать, 4МБ/с, да, обосрамс. Алсо btrfs уже коммерчески поддерживается, так что ящитаю можно на десктопе использовать.

09 Июля 2013 @ 10:53, №2142224 2142224

Журналирование отключал, никакой разницы. Журнал кстати вообще нипричем, потому что tar только читает, ничего не пишет.

09 Июля 2013 @ 10:55, №2142225 2142225

# hdparm -t /dev/sda
/dev/sda: Timing buffered disk reads: 204 MB in 3.02 seconds = 67.44 MB/sec
Ext4, ссаный ноутбучный хитачевский хард с 8Мб кэша и 5400 об/мин. Такие дела.

09 Июля 2013 @ 11:02, №2142228 2142228

>>2142225
Так это же просто сырая скорость самого диска, без фс.

09 Июля 2013 @ 11:04, №2142229 2142229

А теперь поставь операционную систему, пердолик.

09 Июля 2013 @ 11:07, №2142230 2142230

>>2142229
Двачую, ставь OpenBSD.

09 Июля 2013 @ 12:00, №2142243 2142243

Во первых, для почты юзай райзер, во вторых, 2Mb — это у тебя хард дохнет.

09 Июля 2013 @ 12:04, №2142249 2142249

Да ты же мегауебан. /dev/zero с /dev/null перепутал, уёба.

09 Июля 2013 @ 12:08, №2142252 2142252

>>2142249
Не перепутал. Если указать /dev/null, то он вообще нихуя не делает.

09 Июля 2013 @ 12:12, №2142255 2142255

>>2142252
Делает. Ну если хочешь, сделай tar c ~/Maildir > /dev/null.

09 Июля 2013 @ 12:13, №2142256 2142256

>>2142243

2Mb — это у тебя хард дохнет.

Хард новый.

/dev/sda:
 Timing buffered disk reads: 350 MB in  3.00 seconds = 116.50 MB/sec
---\
09 Июля 2013 @ 12:14, №2142257 2142257

В папке 22000 файлов, много мелких по 4–7кб.

09 Июля 2013 @ 12:16, №2142258 2142258

>>2142256
У тебя же чуть выше было 67.44

09 Июля 2013 @ 12:17, №2142260 2142260

>>2142257
У меня на серваках тысячи пользователей, почта хранится тоже в мейлдире. Файлов так много, что порой кончаются иноды. Скорость не падает.

09 Июля 2013 @ 12:18, №2142262 2142262

>>2142258
Это другая колчанька была же.

09 Июля 2013 @ 12:22, №2142264 2142264

>>2142262
Кури tune2fs, попробуй монтировать с noatime и/или barier, хуй знает в чем у тебя там проблема. Проверь atop'ом нагрузку на диск, может быть у тебя ещё что-то пишет/читает. Проверь вывод hdparm'а, может у тебя как-нибудь по левому определился хард и работает в каком-нибудь сраном compatibility-mode.

09 Июля 2013 @ 12:23, №2142267 2142267

Небось стоит какая-нибудь бубунта с дефолтным LVM'ом.

09 Июля 2013 @ 12:26, №2142272 2142272

Кури tune2fs, попробуй монтировать с noatime и/или barier, хуй знает в чем у тебя там проблема.

Я уже вчера и позавчера форматировал и переформатировал фс целый день. Пробовал и включать кучу фич и уменьшать количество айнодов или размеры блоков, пробовал делать фс с livecd арча и с установщика убунты. Всё примерно тоже самое, максимум выигрыш от пердоленья 30 секунд.

Проверь atop'ом нагрузку на диск, может быть у тебя ещё что-то пишет/читает.

Я в dstat смотрю — нихуя особого.
>

09 Июля 2013 @ 12:26, №2142273 2142273

Вообще, каким образом ты создавал партицию и ставил туда фс?

09 Июля 2013 @ 12:27, №2142274 2142274

Прыщепроблемы не нужны, ставьте семёрочку

09 Июля 2013 @ 12:27, №2142275 2142275

>>2142273

Вообще, каким образом ты создавал партицию и ставил туда фс?

Гпартедом.

09 Июля 2013 @ 12:27, №2142277 2142277

Семёрочка сама становится, по одному клику

09 Июля 2013 @ 12:28, №2142278 2142278

>>2142275
Проверь, не 4к секторный ли у тебя диск.

09 Июля 2013 @ 12:29, №2142279 2142279

Поссал на прыщеговноедов.

09 Июля 2013 @ 12:29, №2142280 2142280

>>2142278
Говорит что 512, но может быть эмуляция. Все партиции выровнены.

09 Июля 2013 @ 12:30, №2142282 2142282

>>2142272
Так какого размера партиция на которой у тебя лежит почта, что там ещё находится, юзаешь ли ты LVM, с какими опциями монтируешь, указывал ли дополнительные параметры при создании ФС?

09 Июля 2013 @ 12:30, №2142283 2142283

>>2142280
Кто говорит?

09 Июля 2013 @ 12:31, №2142284 2142284

>>2142282
Я создавал тестовые партиции в разных местах диска и тестировал там, нихуя. LVM нет, опции relatime, пробовал крутить noatime и выключать баррьеры — как я уже говорил выигрыш небольшой.

09 Июля 2013 @ 12:31, №2142285 2142285

Можно просто остановится на том что ext4 сосёт хуй.

09 Июля 2013 @ 12:32, №2142286 2142286

>>2142284
Какого размера партиции и как ты их тестировал?

09 Июля 2013 @ 12:33, №2142288 2142288

>>2142285
Ну так попробуй райзер и jfs.

09 Июля 2013 @ 12:33, №2142289 2142289

>>2142286
От 800МБ до 30ГиБ.

как ты их тестировал?

time cp -r /mnt/db/Maildir mail
echo 3 > /proc/sys/vm/­drop_caches
time tar cf /dev/zero mail

09 Июля 2013 @ 12:33, №2142290 2142290

>>2142285
Хуи сосет твой жесткий диск.

09 Июля 2013 @ 12:34, №2142292 2142292

>>2142288
Буду переходить на btrfs.

09 Июля 2013 @ 12:36, №2142296 2142296

>>2142289
А нахуя ты прицепился к /dev/zero? Попробуй писать в /dev/shm/test какой-нибудь.

09 Июля 2013 @ 12:37, №2142298 2142298

>>2142296
То бишь оперативку.

09 Июля 2013 @ 12:39, №2142303 2142303

>>2142296
Результат тот же, похуй куда писать, проблемы-то со чтением.

09 Июля 2013 @ 12:40, №2142306 2142306

>>2142303
Ну хуй знает. Какая нагрузка на хард во время тестов?

09 Июля 2013 @ 12:41, №2142311 2142311

>>2142306
По dstat'у как раз 1.5–2МБ/с рид, физическую нагрузку не мерял.

09 Июля 2013 @ 12:43, №2142315 2142315

>>2142311
Таки сравни с выводом atop'а.

09 Июля 2013 @ 12:49, №2142325 2142325

hdparm -I /dev/sda?

09 Июля 2013 @ 12:53, №2142327 2142327

>>2142315
DSK | sda | busy 95% | read 2039 | write 0 | MBr/s 1.75 | MBw/s 0.00 | avio 4.69 ms

09 Июля 2013 @ 12:55, №2142329 2142329

>>2142325

/dev/sda:

ATA device, with non-removable media
        Model Number:       ST500DM005 HD502HJ
        Serial Number:      S20BJ90CB63578
        Firmware Revision:  1AJ10001
        Transport:          Serial, ATA8-AST, SATA 1.0a, SATA II Extensions, SATA Rev 2.5, SATA Rev 2.6
Standards:
        Used: unknown (minor revision code 0x0028)
        Supported: 8 7 6 5
        Likely used: 8
Configuration:
        Logical         max     current
        cylinders       16383   16383
        heads           16      16
        sectors/track   63      255
        --
        CHS current addressable sectors:   66842640
        LBA    user addressable sectors:  268435455
        LBA48  user addressable sectors:  976773168
        Logical  Sector size:                   512 bytes
        Physical Sector size:                   512 bytes
        device size with M = 1024*1024:      476940 MBytes
        device size with M = 1000*1000:      500107 MBytes (500 GB)
        cache/buffer size  = 16384 KBytes
        Form Factor: 3.5 inch
        Nominal Media Rotation Rate: 7200
Capabilities:
        LBA, IORDY(can be disabled)
        Queue depth: 32
        Standby timer values: spec'd by Standard, no device specific minimum
        R/W multiple sector transfer: Max = 16  Current = 16
        Advanced power management level: disabled
        Recommended acoustic management value: 254, current value: 0
        DMA: mdma0 mdma1 mdma2 udma0 udma1 udma2 udma3 udma4 udma5 *udma6
             Cycle time: min=120ns recommended=120ns
        PIO: pio0 pio1 pio2 pio3 pio4
             Cycle time: no flow control=120ns  IORDY flow control=120ns
09 Июля 2013 @ 12:55, №2142330 2142330
Commands/features:
        Enabled Supported:
                SMART feature set
                Security Mode feature set
           *    Power Management feature set
           *    Write cache
           *    Look-ahead
           *    Host Protected Area feature set
           *    WRITE_BUFFER command
           *    READ_BUFFER command
           *    NOP cmd
           *    DOWNLOAD_MICROCODE
                Advanced Power Management feature set
                Power-Up In Standby feature set
           *    SET_FEATURES required to spinup after power up
                SET_MAX security extension
                Automatic Acoustic Management feature set
           *    48-bit Address feature set
           *    Device Configuration Overlay feature set
           *    Mandatory FLUSH_CACHE
           *    FLUSH_CACHE_EXT
           *    SMART error logging
           *    SMART self-test
           *    General Purpose Logging feature set
           *    64-bit World wide name
           *    WRITE_UNCORRECTABLE_EXT command
           *    {READ,WRITE}_DMA_EXT_GPL commands
           *    Segmented DOWNLOAD_MICROCODE
           *    Gen1 signaling speed (1.5Gb/s)
           *    Gen2 signaling speed (3.0Gb/s)
           *    Native Command Queueing (NCQ)
           *    Host-initiated interface power management
           *    Phy event counters
           *    NCQ priority information
                DMA Setup Auto-Activate optimization
                Device-initiated interface power management
           *    Software settings preservation
           *    SMART Command Transport (SCT) feature set
           *    SCT Long Sector Access (AC1)
           *    SCT LBA Segment Access (AC2)
           *    SCT Error Recovery Control (AC3)
           *    SCT Features Control (AC4)
           *    SCT Data Tables (AC5)
Security:
        Master password revision code = 65534
                supported
        not     enabled
        not     locked
        not     frozen
        not     expired: security count
                supported: enhanced erase
        76min for SECURITY ERASE UNIT. 76min for ENHANCED SECURITY ERASE UNIT.
Logical Unit WWN Device Identifier: 50004cf20907318a
        NAA             : 5
        IEEE OUI        : 0004cf
        Unique ID       : 20907318a
Checksum: correct
09 Июля 2013 @ 12:57, №2142331 2142331

>>2142329

Это >>2142225 не ты был что-ли? Параметры не совпадают.

09 Июля 2013 @ 12:58, №2142332 2142332
09 Июля 2013 @ 13:07, №2142335 2142335

Ну хуй знает, вроде все ок. Какой у тебя размер блока фс? И покажи cat /proc/mounts | grep ФС.

09 Июля 2013 @ 13:10, №2142337 2142337

>>2142329
Сделай hdparm -M 254 /dev/sda и проверь скорость чтения ещё разок.

09 Июля 2013 @ 13:12, №2142339 2142339

>>2142337

размер блока

4к для всех фс.

Сделай hdparm -M 254 /dev/sda и проверь скорость чтения ещё разок.

Та же хуйня, но шумит сильнее.

DSK | sda | busy 91% | read 1424 | write 2 | MBr/s 0.96 | MBw/s 0.00 | avio 6.42 ms

09 Июля 2013 @ 13:14, №2142340 2142340

>>2142339
Ну так попробуй 2к блоки, странно, что -M не влияет на скорость чтения.

09 Июля 2013 @ 13:15, №2142341 2142341

>>2142340
Мне кажется ничего странного, если предпологать что проблема в ext4, большие файлы и папки с большими файлами тарятся и копируются на близкой к 100МБ скорости, вне зависимости от режима. Печально что даже новые фс не выжимают больше 20МБ на мелких файлах.

09 Июля 2013 @ 13:19, №2142342 2142342

>>2142340

попробуй 2к блоки

Та же хуйня.

09 Июля 2013 @ 13:20, №2142344 2142344

>>2142341
А вот в irc подсказывают спросить, есть ли у тебя среди tune2fs -l /dev/sdaX | grep features dir_index, например?

09 Июля 2013 @ 13:21, №2142346 2142346

>>2142344
Да, на всех дисках.
Filesystem features: has_journal ext_attr resize_inode dir_index filetype needs_recovery extent flex_bg sparse_super large_file huge_file uninit_bg dir_nlink extra_isize

09 Июля 2013 @ 13:21, №2142347 2142347

>>2142345
Ты и есть долбаеб.

09 Июля 2013 @ 13:24, №2142351 2142351

>>2142349
Да мне похуй, пррррррр.

09 Июля 2013 @ 13:24, №2142352 2142352

>>2142346
Ну тогда просто странно, что у меня без всех оптимизаций с примерно таким же диском производительность на маленьких файлах на порядок больше. Ты эти параметры ФС давал при создании? Можешь попробовать речекнуть (e2fsck) ФС с параметром -D, ман говорит, что это обязательно поможет.

09 Июля 2013 @ 13:24, №2142354 2142354

>>2142352
e2fsck -Df /dev/sdaX, — вот так.

09 Июля 2013 @ 13:25, №2142356 2142356

>>2142355
tar не сжимает файлы, оверхед минимален

09 Июля 2013 @ 13:26, №2142358 2142358

>>2142352
Без всяких параметров, только что сделал mkfs.ext4 -b 2048.
>>2142352

Ну тогда просто странно, что у меня без всех оптимизаций с примерно таким же диском производительность на маленьких файлах на порядок больше.

У нас видимо разные файлы. Гугл говорит что таки ext сильно расходуется если поместить в одну папку дохуя совсем мелочных файлов. (Хотя у меня всего-лишь 20000 безобидных емейлов)

09 Июля 2013 @ 13:26, №2142359 2142359

>>2142355

мелкие файлы это хардварное ограничение диска, их невозможно читать так же быстро, как большие НИКАК

Если бы они читались в рандомном порядке, то да, было бы значительное падение производительности. При простом последовательном чтении такого эфекта не должно быть.

09 Июля 2013 @ 13:27, №2142362 2142362

>>2142360

Мелкие файлы можно быстро читать если они на диске лежат в том порядке, в котором ты их читаешь, а это по сути большой файл.

А хули бы им в нем не быть? Только что отформатированный пустой диск на 30гб получает 200МБ папку по кабелю, фрагментации быть не должно.

09 Июля 2013 @ 13:30, №2142369 2142369

>>2142365
Для этого и нужна фс, чтобы такой парашей себя заботить.

09 Июля 2013 @ 13:34, №2142374 2142374

Ну ладно, похуй на ext, но почему у тебя райзер то тормозит?

09 Июля 2013 @ 13:35, №2142376 2142376

>>2142372
Как раз нужно, и ты слишком плохого мнения о современных процессорах.

Ну охуительные у тебя желания, тебе фс должна предсказывать, что твое прикладное говно читать будет?

Ну охуеть, когда мы два-три раза читаем файлы подряд, можно получить идею что мы наверное собираемся брать всю папку и закешировать последующие файлы.

Ну ладно, похуй на ext, но почему у тебя райзер то тормозит?

Да хуй его знает. Кажется это reiserfs, а не reiser4, который мне слишком пердольно ставить.

09 Июля 2013 @ 13:35, №2142377 2142377

>>2142372
Это, блять, не прикладное говно. Он записывает целиком директорию, и целиком её же считывает. Если бы индексы работали, как они должны работать, то проблем бы не должно было быть.

09 Июля 2013 @ 13:36, №2142378 2142378

Правда при mkfs.reiserfs посыпались охуенные истории про петушинную жизнь ханса в тюрячке, наверное это всё-таки новая версия.

09 Июля 2013 @ 13:37, №2142380 2142380

>>2142376
Насчет ext, ты таки пробовал после копирования директории пройтись по ФС e2fsck -fD?

09 Июля 2013 @ 13:38, №2142382 2142382

>>2142380
Никаких изменений.

09 Июля 2013 @ 13:39, №2142383 2142383

>>2142380
Ещё раз, порядок такой. Размонтируешь ФС, проверяешь, что в features у ней есть dir_index, проходишься e2fsck -fD, монтируешь.

09 Июля 2013 @ 13:41, №2142385 2142385

>>2142383
Нихуя. Хорошо я съёбываю, спасибо за внимание. Вечером попробую сгенерировать такую же ебанутую папку, потестите как у вас будет работать.

09 Июля 2013 @ 15:56, №2142567 2142567

Пишу в /dev/null, УМВР. 0m0.022s

09 Июля 2013 @ 15:56, №2142568 2142568

>>2142567
Лол, у тебя же в кэше всё.

09 Июля 2013 @ 15:57, №2142569 2142569

О чем пиздите?

09 Июля 2013 @ 16:02, №2142574 2142574

>>2142568
Что у меня в кэше, блять?!

09 Июля 2013 @ 16:13, №2142579 2142579

>>2142574
Инфа какая-то.

Читают: 1 | Отвечают: 0 Всего: 62 просмотра
Комментировать: Правила разметки

(← + Сtrl) вернуться назадк новым сообщениям (Сtrl + →)

Кликните мышкой, чтобы скрыть просматриваемое изображение.