Wszystko zaczęło się w roku 1940, kiedy 25-letni wówczas brat Roger opuścił kraj swego urodzenia, Szwajcarię, by zamieszkać we Francji – kraju rodzinnym swojej matki. W młodości chorował na gruźlicę, która na długi czas wyłączyła go z aktywnego życia. Wtedy dojrzało w nim wewnętrzne wezwanie do stworzenia wspólnoty, która w centrum swego życia umieściłaby dwie podstawowe rzeczywistości ewangeliczne: prostotę i dobroć serca.

Kiedy wybuchła II Wojna Światowa był pewien, że podobnie jak jego babcia podczas pierwszej wojny światowej, powinien nieść pomoc ludziom, którzy są w trudnej sytuacji życiowej. Mała wioska Taizé, w której się osiedlił, znajdowała się w pobliżu linii demarkacyjnej dzielącej Francję na dwie części. Było to więc dobre miejsce, by przyjmować uchodźców uciekających przed wojną. Przyjaciele z Lyonu podawali adres Taizé wszystkim tym, którzy byli w potrzebie. Wiedzieli, że znajdą tam schronienie.

Dzięki niewielkiej pożyczce brat Roger kupił w Taizé opuszczony od wielu lat dom wraz z przyległościami. Zaproponował jednej ze swych sióstr, Geneviève, by przyjechała mu pomóc. Wśród uchodźców, których przyjmował, byli między innymi Żydzi. Środki materialne, którymi dysponowano, były ograniczone. Nie było bieżącej wody; po wodę pitną chodziło się do studni w wiosce. Ubogie było także wyżywienie; składało się głównie z zupy robionej z kukurydzianej mąki kupowanej tanio w pobliskim młynie. Przez wzgląd na tych, których przyjmował – brat Roger modlił się w samotności. Często chodził śpiewać do lasu, daleko od domu. Geneviève tłumaczyła wszystkim, że lepiej będzie, jeśli każdy pomodli się sam w swoim pokoju, aby niektórzy z uchodźców, Żydzi czy agnostycy, nie czuli się skrępowani.

Rodzice brata Rogera zdawali sobie sprawę z niebezpieczeństwa, jakie groziło ich synowi i córce. Zwrócili się z prośbą do przyjaciela rodziny, emerytowanego oficera francuskiego, by sprawował nad nimi opiekę. Jesienią 1942 roku uprzedził ich, że ich działalność została odkryta i że muszą bezzwłocznie wyjechać. Do końca wojny brat Roger przebywał w Genewie i tam z pierwszymi braćmi rozpoczęli życie wspólnotowe. Mogli wrócić do Taizé w 1944 roku.

W 1945 roku pewien młody prawnik mieszkający w regionie powołał do życia stowarzyszenie, które miało opiekować się dziećmi osieroconymi w czasie wojny. Zaproponował braciom, by przyjęli kilkoro z nich u siebie w Taizé. Ponieważ wspólnota mężczyzn nie mogła zajmować się dziećmi, brat Roger poprosił swą siostrę Geneviève, by wróciła do Taizé i zaopiekowała się dziećmi jako ich przybrana matka. W niedziele bracia gościli również u siebie niemieckich więźniów internowanych w obozie założonym w pobliżu Taizé.

Przez następne lata do wspólnoty przyłączali się kolejni młodzi mężczyźni. W Wielkanoc 1949 roku siedmiu z nich wspólnie zobowiązało się na zawsze do zachowywania celibatu, do życia wspólnotowego i do coraz większej prostoty.

Podczas długich rekolekcji w ciszy, w czasie zimy na przełomie lat 1952 / 1953, założyciel Wspólnoty napisał Regułę Taizé, przekazując braciom „główne zasady, które czynią życie wspólnotowe możliwym”.

Dzisiaj Wspólnota Taizé liczy ponad stu braci. Są wśród nich katolicy i ewangelicy różnych Kościołów. Bracia pochodzą z około 30 krajów, w tym czerech z Polski. Samo istnienie Wspólnoty jest już znakiem pojednania pomiędzy podzielonymi chrześcijanami i zwaśnionymi narodami.

Bracia żyją z własnej pracy. Nie przyjmują żadnych darowizn. Nawet ich rodzinne spadki Wspólnota przeznacza na pomoc najbardziej potrzebującym.

Niektórzy bracia mieszkają w najbiedniejszych zakątkach świata, by być tam świadkami pokoju wśród ludzi, którzy cierpią. Dzisiaj takie małe wspólnoty braci, nazywane fraterniami, znajdują się w ubogich regionach Azji, Afryki i Ameryki Łacińskiej. Bracia dzielą warunki życia z ludźmi, z którymi mieszkają na co dzień, i starają się dawać świadectwo miłości najbiedniejszym, dzieciom ulicy, więźniom, umierającym, ludziom doświadczającym tragedii osobistych, porzuconym.

Z roku na rok liczba odwiedzających Taizé zwiększa się. Przybywają ze wszystkich kontynentów, aby wziąć udział w tygodniowych spotkaniach. Siostry świętego Andrzeja (międzynarodowe katolickie zgromadzenie zakonne, założone ponad siedem wieków temu) i polskie siostry urszulanki podejmują część zadań związanych z przyjmowaniem młodych ludzi.

Taizé odwiedzają również zwierzchnicy Kościołów. Wspólnota gościła Jana Pawła II (5 października 1986 r.), patriarchę ekumenicznego Bartłomieja, metropolitów i biskupów różnych Kościołów Prawosławnych, czterech kolejnych arcybiskupów z Canterbury, 14 biskupów luterańskich ze Szwecji i niezliczoną ilość pasterzy Kościołów z całego świata.

Od 1962 roku bracia oraz młodzi ludzie wysyłani przez Taizé bardzo dyskretnie odwiedzali kraje Europy Wschodniej, by spotkać się z tymi, którzy byli „zamknięci” w granicach własnych państw.

Brat Roger zmarł 16 sierpnia 2005 roku w wieku 90 lat. Został zabity podczas wieczornej modlitwy. Brat Alois, którego już przed wielu laty wybrał jako swego następcę, jest odtąd przeorem Wspólnoty.