Connecting Business & Technology Bilag 11 - Prøver 28. juni 2005 Undervisningsministeriets udbud - Fremme af eva- lueringskulturen i folkeskolen
© Devoteam Fischer & Lorenz A/S 2005 Dette dokument er udarbejdet for Undervisningsministeriet af Devoteam Fischer & Lorenz A/S. Undervisningsministeriet har ret til at kopiere og distribuere dette dokument. Enhver anden kopiering og distribution må kun finde sted efter aftale parterne imellem. Enhver kopi skal være forsynet med rapportens titel, dato og denne notits.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 1 / 1 1 Indholdsfortegnelse 1. Bilagets indhold    ............................................................ 2 2. Prøver  ................................   ................................ ............3 3. Funktionsprøve ............................................................. 4 4. Driftsprøve  ................................   ................................ ....7 5. Materialeprøve ............................................................. 9 6. Liste over kravopfyldelse    ................................ ...........11
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 2 / 1 1 1. Bilagets indhold Dette bilag skal udfyldes af Tjenesteyder i forbindelse med tilbudet. Dette bilag beskriver krav til de prøver der som minimum skal gennemføres i ko  n- traktens løbetid. Et info - punkt er en vejledning om, hvordan Tjenesteyder skal udforme sit tilbud, infopunkter er angivet på følgende måde: Info. 0. Dette er et eksempel på et infopunkt Dette er et eksempel på en nærmere beskrivelse mht. udformning af tilbud.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 3 / 1 1 2. Prøver I forbindelse med etableringen skal der gennemføres en række afprøvninger. Fo r- målet med disse er at sikre, at Undervisningsministeriet har fået den aftalte yde  lse. Som angivet i kontrakten skal der gennemføres fø  lgende prøver: - Funktionsprøve: Hvor systemets funktioner og delfunktioner afpr øves i fo r- hold til det aftalte – u- gervenlighedstest, integrationstest, svartidstest for et ikke belastet system og en vurdering af brugervejledning og systemdokumentation. - Driftsprøve: Hvor systemets t ilgængelighed måles. Driftsprøven o mfatter en løbende svartidsmåling af systemet under hele driftsprøven. Herudover skal der gennemføres en belastningsprøve under hele driftsprøven der demonstr   e- rer at systemet kan yde det aftalte. Svartiderne indgår i tilg ængelighedsbere  g- ningen. Driftsprøven omfatter herudover bl.a. en vurd ering af driftsprocedurer og dokumentation. - Materialeprøve: Hvor materialerne gennemgås mhp. en efterprøvning af hvo   r- vidt det aftalte er leveret. Dette bilag kan desuden finde anvendelse på andre tidspunkter, fx ved lancering af yderligere, på kontraktstidspunktet, endnu ikke planlagte versioner. Info. 1. Redegørelse for organisering af prøver Tjenesteyder skal redegøre for hvorledes prøver organiseres og gennemføres. Alle prøver skal gennemfør  es hos Undervisningsministeriet eller på eksterne lok a- tioner udpeget af Undervisningsministeriet. Prøverne gennemføres på en standard PC med Web browser og 64kb opkobling til Internettet. Prøverne skal gennemf ø- res på realistisk vis og med simulering af ful dt antal brugere, sådan som det er b e- skrevet i bilag 12. Det skal af en testdrejebog fremgå, hvilke krav, der opfyldes med leverancen. Det skal af testen fremgå, om dette overholdes.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 4 / 1 1 3. Funktionsprøve Formålet med prøven er at konstatere, om samtlige systeme  ts funktioner fungerer, og at samtlige øvrige ydelser er leveret i overensstemmelse med, hvad der er a f- talt, og hvad Undervisningsministeriet kan forvente. I prøven indgår ligeledes elementer af måling af datakvalitet. Mindstekrav 1.   Gennemførelse af funktionsprøver Tjenesteyder skal, i det i kontrakten foreskrevne omfang, gennemføre funktion s- prøver. Krav 1. Sammenhæng mellem tidspunktet for funktionsprøve og hovedtidsplan Tidspunktet for funktionsprøver på planlagte versioner skal fremgå af kontraktens bilag 1 - Hovedtidsplan og b e talingsplan. Krav 2. Forberedelse af funktionsprøve Inden prøven påbegyndes, skal de fornødne øvrige aktiviteter være tile ndebragt. fx Tjenesteyders test og kvalitetssikring samt al tilhørende dokumentation være leveret til Undervisningsministeriet. Krav 3. Ansvar for funktionsprøve Prøven gennemføres af Tjenesteyder i samarbejde med Undervisningsministeriet. Det er Undervisningsministeriets ansvar at påse, at prøven gennemføres ko   rrekt. Krav 4. Funktionsprøvens elementer Tjenesteyder skal gennemføre funktionsprøver, som   minimum omfatter følge nde elementer: Forberedende test, hvor systemets kerne funktioner testes af meget få t estere, med det formål at konstatere, om en test kan igangsættes. Dette sker, før de egentlige test igangsættes. Funktionstest (Komponentenhedstest), hvor det testes, at systemets enkelte komponenter fungerer korrekt og efter specifikationerne. Integrationstest, hvor det testes, at systemets funktionalitet i sammenhæng fungerer korrekt og efter specifikationerne – UNI-login. Interoperabilitetstest, hvor det testes, om systemet fungerer med de aftalte operativsystemer (versioner) og browsere (versioner). Indholdstest, hvor kvaliteten af indholdet testes, herunder at rapporter fra it- baserede test (især den tilbagemelding til læ l- dre) er retvisende, meningsfulde og troværdige.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 5 / 1 1 Brugervenlighedstest, hvor systemets funktionsmåde og design t estes for om, systemet er let at forstå, let at overskue og let at anvende set ud fra en ren br u- gersynsvinkel. Belastningstest, hvor systemet testes for skalerbarhed i relation til svartider. Sikkerhedstest, hvor procedurerne for systemets data og adgangssikkerhed testes – Test af dokumentation, hvor designdokumentation, dokumentation på data, opgavetyper, datastrukturer m.m. og evt. brugerdokumentation skal testes. Dette kan delvist ske ved, at testdrejebøgerne bl.a. udarbejdes med udgang s- punkt i den nævnte dokumentation. Krav 5. Testplanens indhold Testplanen bør hænge sammen med hovedti   dsplanen og bør indeholde en grundig test af den samlede konfiguration og funktionalitet inden gennemførelsen af pr ø- ven. Krav 6. Test-drejebog Tjenesteyder har ansvaret for, at der udarbejdes en drejebog for gennemføre lsen af prøverne. Drejebogen godkendes af Und ervisningsministeriet. Drejebogen skal være til Undervisningsministeriets rådighed, gennemgang og kommentering s   e- nest 20 arbejdsdage før prøvens start. Krav 7. Svartidsprøve Som et led i prøverne skal gennemføres en svartidsprøve. Formålet med sva r- tidsprøven er a t kontrollere, at systemet uden belastning overholder de krav til svartider, der fremgår af bilag 12  - Servicemål. Krav 8. Fejlsituationer og fejlmeddelelser I forbindelse med prøverne fremprovokeres endvidere en række fejlsituat   ioner. Systemet skal reagere på fe jlsituationer som beskrevet. En betingelse for godken- delse af prøven er, at der afgives meningsfyldte fejlmeddelelser, og at brugeren kan fortsætte på et veldefineret grundlag. Krav 9. Udarbejdelse af testrapport Når en prøve er gennemført, udarbejder Tjenesteyde   r og Undervisningsministeriet i samarbejde en testrapport, der resumerer prøvens resultat. Krav 10. Funktionsprøvens godkendelse En prøve skal anses for b estået, når den er bestået uden kvalificerende fejl, det vil sige aflagt uden alvorlige eller betydende fejl jf. beskrivelsen i bilag 12. Under-
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 6 / 1 1 visningsministeriet skal - uden ugrundet ophold - efter prøvens afslutning skrif t- ligt meddele Tjenesteyder, hvorvidt: prøven er bestået med angivelse af eventuelle fejl i en mangelliste, eller prøven ikke er bestået med an  givelse af begrundelse. Krav 11. Fejlrettelse inden driftsprøve Det påhviler Tjenesteyder snarest og inden driftsprøvens start at rette alle fejl, som er beskrevet i mangellisten. Tjenesteyder skal i fornødent o mfang over for Undervisningsministeriet demonstrere, at afhjælpning er sket.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 7 / 1 1 4. Driftsprøve Formålet med driftsprøver er at konstatere, hvorvidt leverancen overholder de o  p- stillede servicemål og kvalitetkrav, jf. bilag 12 og 13.  Undervisningsministeriet kan kræve driftsprøver gennemført for hver ny version, u anset om samme funkti- onalitet er testet i tidligere versioner. Mindstekrav 2.   Gennemførelse af driftsprøver Tjenesteyder skal, i det i kontrakten foreskrevne omfang, gennemføre driftspr ø- ver. Krav 12. Sammenhæng mellem tidspunktet for driftsprøve og hovedtidsplan Tidspunktet for driftsprøver for planlagte versioner skal fremgå af kontraktens bilag 1 - Hovedtidsplan og betalingsplan. Krav 13. Forberedelse af driftsprøver Inden driftsprøver påbegyndes, skal de relevante funktionsprøver være go dkendt af Undervisningsministeriet. Krav 14. Ansvar for driftsprøver Driftsprøver gennemføres af Tjenesteyder i samarbejde med Undervisningsmin  i- steriet. Det er Undervisningsministeriets ansvar at påse, at prøven gennemføres kor rekt. Krav 15. Belastningsprøve Som en del af driftsprøven gennemføres en belastningsprøve    i hele driftsprøvens periode. Under belastningsprøven skal systemet belastes med 90% af den aftalte kapacitet jf. bilag 12 - Servicemål. Som et led i driftsprøven skal der løbende simuleres et antal virtuelle brugere, s  å- ledes at systemets evne til at håndt ere flere samtidige brugere bliver afdækket på betryggende vis. Krav 16. Driftsprøvens periode Driftsprøver skal strække sig over en periode på mindst 20 arbejdsdage, hvor s y- stemet er i fuld drift. Driftsprøven fortsætter, indtil de aftalte servicemål er ove r- holdt i 20 arbejdsdage i træk, eller Undervisningsministeriet hæver kontrakten i henhold til bestemmelserne herom.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 8 / 1 1 Krav 17. Driftsprøvens godkendelse Driftsprøven skal anses for bestået, når den er bestået uden kvalificerende fejl, det vil sige aflagt uden alvorlige eller betydende fejl jf. beskrivelsen i bilag 12. Un- dervisningsministeriet skal - uden ugrundet ophold - efter driftsprøvens a fslutning skriftligt meddele Tjenesteyder, hvorvidt: prøven er bestået med angivelse af eventuelle fejl i en mangelliste, eller prø ven ikke er bestået med angivelse af begrundelse. Krav 18. Fejlrettelse efter driftsprøve Det påhviler Tjenesteyder inden lancering at rette alle fejl, som er beskrevet i mangellisten. Tjenesteyder skal i fornødent omfang over for Undervisningsmin i- steriet demonstrere, at afhjælpning er sket.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 9 / 1 1 5. Materialeprøve Mindstekrav 3.   Gennemførelse af materialeprøver Tjenesteyder skal gennemføre materialeprøver. Krav 19. Materialeprøvens formål Materialeprøve gennemføres med det formål at konstatere: Hvorvidt den Generelle vejledning for intern løb ende evaluering i folkeskolen er leveret med de aftalte genstande med aftalt indhold i aftalt design i aftalt kvalitet (bilag 3, bilag 4 og bilag 13). Hvorvidt de Fagspecifikke inspirationsmaterialer er leveret med de aftalte genstande (herunder evalueringsmetoder og antal eksempler per fag) smed af- talt indhold i aftalt design i aftalt kvalitet (bilag 3, bilag 4 og bilag 13). Hvorvidt Materialer til brug ved sprogscreening af tosprogede med de aftalte genstande med aftalt indhold i aftalt design i aftalt kvalitet (bilag 3, bilag 4 og bilag 13). Krav 20. Ansvar for materialeprøver Materialeprøver gennemføres af Tjenesteyder i samarbejde med Undervisning  s- ministeriet. Det er Undervisningsministeriets ansvar at påse, at prøven gennemf  ø- res korrekt. Krav 21. Test-drejebog for materialeprøven Tjenesteyder har ansvaret for, at der udarbejdes en drejebog for gennemføre lsen af materialeprøverne. Drejebogen godkendes af Undervisningsministeriet. Drejeb o- gen skal være til Undervisningsministeriets rådighed, gennemgang og komment   e- ring senest 10 arbejdsdage før prøvens start. Krav 22. Materialeprøvens godkendelse Materialeprøven skal anses for bestået, når den er bestået uden kvalificere nde fejl, Tjenesteyder skal udarbejde beståelseskrav i henhold til  Krav 19. Undervisnings- ministeriet skal - uden ugrundet ophold - efter materialeprøvens afslutning skrif t- ligt meddele Tjenesteyder, hvorvidt: prøven er bestået med angivelse af eventuelle fejl i en mangelliste, eller prøven ikke er bestået med angivelse af begrundelse.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 1 0 / 1 1 Krav 23. Fejlrettelse efter materialeprøve Det påhviler Tjenesteyder inden lancering at rette alle fejl, som er beskrevet i mangellisten. Tjenesteyder skal i fornødent omfang over for Undervisningsmin i- steriet demonstrere, at afhjælpning er sket.
B i l a g   1 1   -   P r ø v e r $ A S Q 2 3 7 2 1 4 . D O C 1 1 / 1 1 6. Liste over kravopfyldelse Der henvises til bilag 3 for en konkret vejledning i, hvordan listen skal udfyldes. Info. 1 3 Redegørelse for organis ering af prøver Mindstekrav 1 4 Gennemførelse af funktionsprøver Krav 1 4 Sammenhæng mellem tidspunktet for funktionsprøve og hove dtidsplan Krav 2 4 Forberedelse af funktionsprøve Krav 3 4 Ansvar for funktionsprø ve Krav 4 4 Funktionsprø vens elementer Krav 5 5 Testplanens indhold Krav 6 5 Test-drejebog Krav 7 5 Svartidsprøve Krav 8 5 Fejlsituationer og fejlmeddelelser Krav 9 5 Udarbejdelse af testrapport Krav 10 5 Funktionsprøvens godke ndelse Krav 11 6 Fejlrettelse inden driftsprø ve Mindstekrav 2 6 Gennemførelse af driftsprøver Krav 12 7 Sammenhæng mellem tidspunktet for driftsprøve og hovedtidsplan Krav 13 7 Forberedelse af driftsprø ver Krav 14 7 Ansvar for driftsprøver Krav 15 7 Belastningsprøve Krav 16 7 Driftsprøvens period e Krav 17 8 Driftsprøvens godkendelse Krav 18 8 Fejlrettelse efter driftsprøve Mindstekrav 3 9 Gennemførelse af materialeprøver Krav 19 9 Materialeprøvens formål Krav 20 9 Ansvar for materialeprøver Krav 21 9 Test-drejebog for materialeprøven Krav 22 9 Materialeprøvens godkendelse Krav 23 10 Fejlrettelse efter materialeprøve