GUI — graphical user interface, графический пользовательский интерфейс. Это то, с чем работает обычный пользователь, открыл сайт и тык-тык по кнопочкам.
Тестирование GUI — это проверка того, что интерфейс выглядит как задумано. Иногда это означает выверку по макетам из ТЗ. И даже если видишь сдвиг на 1 пиксель — заводишь баг. Но чаще всего это означает просто проверить, что все кнопочки нажимаются, текст за границы нигде не вылезает, и других косяков нет. Баги вёрстки в вебе, баги наложения текста в мобилках.
Если у вас не стоит задачи выверять расположение каждого пикселя, то отдельно тестирование GUI не проводится. Вы проверяете функционал, обращая при этом внимание на отображение. И всё. Баги вёрстки вы и так заметите, по крайней мере, должны.
Этим человек выгодно отличается от робота. Робот проверит ровно то, что ему сказали. Сказали «тыкнуть «войти» и ввести такие-то данные», он и тыкнет. И пофигу будет роботу, что формочку всю перекосило, свою задачу то он выполнил! А человек заметит косяк и поставит баг.