Вопрос, к сожалению, остался не решён, причина клиппирования не найдена. Может действительно виновата карта.
Вывод: для воспроизведения стерео на колонки и уши ASUS XONAR ESSENCE STX - "отлично", для записи - лучше не брать.
Всем, кто попытался помочь ОГРОМНОЕ СПАСИБО!!!
Тема закрыта.

Карта всё та же или давно другая?
В настройках разобрался?
Оцифровывают аналог обычно через ASIO аудиокарты на программу записи (Wavelab и им подобные), в этом случае все настройки звуковые на самой карте пофигу, кроме основных : входная частота преобразования ЦАПа и выбор линейного входа (ештештвенно в настройках указать вход с линейного, не микрофонный)

Перегрузить аудиокарту общеизвестными аналоговыми источниками теоретически невозможно, не догрузить- нормальное явление, все они имеют по номиналу выходное напряжение намного ниже входного аудиокарты в 1000мв для 0дб.
Кассетники как правило выдают при максимуме не более 370-600 мв от 0дб до +3дб по индикатору , катушечники при перегрузе в +6дб ! около 900-1000мв, но кто с таким перегрузом будет писать? Максимум для любителей громких пиков +3д, это порядка 750мв, ну а в норме до 0дб 400-600мв в зависимости от модели. Вертушечные корректоры в своём большенстве так же под 1вольт вам сигнал не дадут, только на ооочень редких 45 пятках с номинальным вых. напр. корра в 500мв ...Это всё при условии, что у нас корр не современной разработки самодельщиков, спецом заточенный на выходе в 1 вольт номинала, как у сд пр.

То есть через ASIO мы получим самый короткий и чистый от всяких обработок звук.сигнал прямо на нашу программу записи. Дальше уже на выбор, оставлять записанный уровень сигнала как есть, или нормализовать его:
Нормализация – это процесс обычно увеличения (иногда уменьшения) амплитуды (громкости) сигнала до определенного уровня по определенному значению - в простейшем случае, устанавливаемый звукорежиссером как норма, причем всегда без искажения сигнала, т. е. переполнения разрядной сетки. В программах нормализация может быть произведена по пиковым уровням или по среднеквадратичному значению сигнала RMS. В чем разница? Если у вас имеются две записи: на одной, скажем, флейта, на другой барабаны, записанные с одинаковой RMS, то после нормализации по пиковым уровням, например до 0 дБ, RMS да и субъективная громкость первой будут выше. Здесь программа из-за изначально большего динамического размаха пиков барабанов усилит вторую запись незначительно и разность усиления будет равна половине разности их динамических диапазонов. Это следует учитывать, например, при записи разных по характеру звучания треков на один диск. С этим сталкиваются и при простой записи на диск. С одной стороны, чтобы сделать трек громче, нужно усилить его побольше, при этом обрезаются пики; с другой, чтобы сохранить весь динамический диапазон, громкость его следует понизить.
--------------------------
О хороших и дорогих аудиокартах и выносных ЦАПах речь тут не идёт.