В данном контексте правильный выбор глагола "to be" зависит от того, как именно рассматривается предмет разговора.
Если вы рассматриваете "5 pens and 1 pen" как единую группу или количество, то используется "is" (единственное число). В таком случае фраза звучит как "5 pens and 1 pen is 6 pens" (5 ручек и еще одна ручка вместе составляют 6 ручек).
В предложении "5 pens and 1 pen is 6 pens" используется "is", потому что здесь рассматривается общее количество ручек как единый субъект (6 ручек вместе), а не как отдельные элементы. Это стандартное правило в английском языке при обсуждении суммы или итога группы предметов.