Нормално е това, че при висока стойност на съпротивлението на RSET изходът не работи коректно. Въпросът е доколко може да се намали амплитудата без да се влоши формата й. Примерно 3, 5, 10 пъти?
Не е правилно да използваш този атенюатор с потенциометрите, защото няма съгласуване на кабела. Изходното съпротивление на апарата ти трябва да бъде винаги 50 Ом (или 75, зависи от кабела). Иначе, когато честотата се променя, амплитудата също ще се променя и то по незнайни закони...
Колегата ти е дал схема на подходящ атенюатор, но може да се ползва по-прост такъв, с няколко BNC изхода, на които излиза ниво примерно 100, 10, 1, 0.1 мВ и ти да включваш кабела на някой от тях според нуждата. А за плавно регулиране може да се ползва RSET, ако регулира достатъчно.
Може и да се направи атенюатор с потенциометър, но пак трябва изходното съпротивление да е винаги 50 Ом и да не се влияе от положението на потенциометъра...