file_id
stringlengths 4
10
| content
stringlengths 91
42.8k
| repo
stringlengths 7
108
| path
stringlengths 7
251
| token_length
int64 34
8.19k
| original_comment
stringlengths 11
11.5k
| comment_type
stringclasses 2
values | detected_lang
stringclasses 1
value | prompt
stringlengths 34
42.8k
|
|---|---|---|---|---|---|---|---|---|
213150_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
/**
* Implementatie (en ondersteunende) klassen voor Synchronisatie naar BRP.
*/
package nl.bzk.migratiebrp.synchronisatie.runtime.service.synchronisatie;
| EdwinSmink/OperatieBRP | 02 Software/01 Broncode/operatiebrp-code-145.3/migratie/migr-synchronisatie-runtime/src/main/java/nl/bzk/migratiebrp/synchronisatie/runtime/service/synchronisatie/package-info.java | 133 | /**
* Implementatie (en ondersteunende) klassen voor Synchronisatie naar BRP.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
/**
* Implementatie (en ondersteunende)<SUF>*/
package nl.bzk.migratiebrp.synchronisatie.runtime.service.synchronisatie;
|
213151_5 | package com.vividsolutions.jump.workbench.imagery.geotiff;
/*
* The Unified Mapping Platform (JUMP) is an extensible, interactive GUI
* for visualizing and manipulating spatial features with geometry and attributes.
*
* Copyright (C) 2003 Vivid Solutions
*
* This program is free software; you can redistribute it and/or
* modify it under the terms of the GNU General Public License
* as published by the Free Software Foundation; either version 2
* of the License, or (at your option) any later version.
*
* This program is distributed in the hope that it will be useful,
* but WITHOUT ANY WARRANTY; without even the implied warranty of
* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
* GNU General Public License for more details.
*
* You should have received a copy of the GNU General Public License
* along with this program; if not, write to the Free Software
* Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
*
* For more information, contact:
*
* Vivid Solutions
* Suite #1A
* 2328 Government Street
* Victoria BC V8T 5G5
* Canada
*
* (250)385-6040
* www.vividsolutions.com
*/
import java.awt.geom.AffineTransform;
import java.util.List;
import org.geotiff.image.jai.GeoTIFFDescriptor;
import org.geotiff.image.jai.GeoTIFFDirectory;
import org.libtiff.jai.codec.XTIFF;
import org.libtiff.jai.codec.XTIFFField;
import com.vividsolutions.jts.geom.Coordinate;
import com.vividsolutions.jump.util.FileUtil;
public class GeoTIFFRaster extends GeoReferencedRaster
{
private final String MSG_GENERAL = "This is not a valid GeoTIFF file.";
String fileName;
boolean hoPatch = false;
/**
* Called by Java2XML
*/
public GeoTIFFRaster(String imageFileLocation)
throws Exception
{
super(imageFileLocation);
registerWithJAI();
readRasterfile();
}
private void registerWithJAI()
{
// Register the GeoTIFF descriptor with JAI.
GeoTIFFDescriptor.register();
}
private void parseGeoTIFFDirectory(GeoTIFFDirectory dir) throws Exception
{
// Find the ModelTiePoints field
XTIFFField fieldModelTiePoints = dir.getField(XTIFF.TIFFTAG_GEO_TIEPOINTS);
if (fieldModelTiePoints == null)
throw new Exception("Missing tiepoints-tag in file.\n" + MSG_GENERAL);
// Get the number of modeltiepoints
// int numModelTiePoints = fieldModelTiePoints.getCount() / 6;
// ToDo: alleen numModelTiePoints == 1 ondersteunen.
// Map the modeltiepoints from raster to model space
// Read the tiepoints
setCoorRasterTiff_tiepointLT(new Coordinate(fieldModelTiePoints
.getAsDouble(0), fieldModelTiePoints.getAsDouble(1), 0));
setCoorModel_tiepointLT(new Coordinate(fieldModelTiePoints.getAsDouble(3),
fieldModelTiePoints.getAsDouble(4), 0));
setEnvelope();
// Find the ModelPixelScale field
XTIFFField fieldModelPixelScale = dir
.getField(XTIFF.TIFFTAG_GEO_PIXEL_SCALE);
if (fieldModelPixelScale == null)
throw new Exception("Missing pixelscale-tag in file." + "\n"
+ MSG_GENERAL);
setDblModelUnitsPerRasterUnit_X(fieldModelPixelScale.getAsDouble(0));
setDblModelUnitsPerRasterUnit_Y(fieldModelPixelScale.getAsDouble(1));
}
/**
* @return filename of the tiff worldfile
*/
private String worldFileName()
{
int posDot = fileName.lastIndexOf('.');
if (posDot == -1)
{
posDot = fileName.length();
}
return fileName.substring(0, posDot) + ".tfw";
}
private void parseWorldFile() throws Exception
{
// Get the name of the tiff worldfile.
String name = worldFileName();
// Read the tags from the tiff worldfile.
List lines = FileUtil.getContents(name);
double[] tags = new double[6];
for (int i = 0; i < 6; i++)
{
String line = (String) lines.get(i);
tags[i] = Double.parseDouble(line);
}
setAffineTransformation(new AffineTransform(tags));
}
protected void readRasterfile() throws Exception
{
// ImageCodec originalCodec = ImageCodec.getCodec("tiff");
try
{
super.readRasterfile();
// Get access to the tags and geokeys.
// First, get the TIFF directory
GeoTIFFDirectory dir = (GeoTIFFDirectory) src
.getProperty("tiff.directory");
if (dir == null)
throw new Exception("This is not a (geo)tiff file.");
try
{
// Try to parse any embedded geotiff tags.
parseGeoTIFFDirectory(dir);
} catch (Exception E)
{
// Embedded geotiff tags have not been found. Try
// to use a geotiff world file.
try
{
parseWorldFile();
} catch (Exception e)
{
throw new Exception(
"Neither geotiff tags nor valid worldfile found.\n" + MSG_GENERAL);
}
}
} finally
{
}
}
} | stackmystack/newmotorbac | src-jump/com/vividsolutions/jump/workbench/imagery/geotiff/GeoTIFFRaster.java | 1,459 | // int numModelTiePoints = fieldModelTiePoints.getCount() / 6;
| line_comment | nl | package com.vividsolutions.jump.workbench.imagery.geotiff;
/*
* The Unified Mapping Platform (JUMP) is an extensible, interactive GUI
* for visualizing and manipulating spatial features with geometry and attributes.
*
* Copyright (C) 2003 Vivid Solutions
*
* This program is free software; you can redistribute it and/or
* modify it under the terms of the GNU General Public License
* as published by the Free Software Foundation; either version 2
* of the License, or (at your option) any later version.
*
* This program is distributed in the hope that it will be useful,
* but WITHOUT ANY WARRANTY; without even the implied warranty of
* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
* GNU General Public License for more details.
*
* You should have received a copy of the GNU General Public License
* along with this program; if not, write to the Free Software
* Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
*
* For more information, contact:
*
* Vivid Solutions
* Suite #1A
* 2328 Government Street
* Victoria BC V8T 5G5
* Canada
*
* (250)385-6040
* www.vividsolutions.com
*/
import java.awt.geom.AffineTransform;
import java.util.List;
import org.geotiff.image.jai.GeoTIFFDescriptor;
import org.geotiff.image.jai.GeoTIFFDirectory;
import org.libtiff.jai.codec.XTIFF;
import org.libtiff.jai.codec.XTIFFField;
import com.vividsolutions.jts.geom.Coordinate;
import com.vividsolutions.jump.util.FileUtil;
public class GeoTIFFRaster extends GeoReferencedRaster
{
private final String MSG_GENERAL = "This is not a valid GeoTIFF file.";
String fileName;
boolean hoPatch = false;
/**
* Called by Java2XML
*/
public GeoTIFFRaster(String imageFileLocation)
throws Exception
{
super(imageFileLocation);
registerWithJAI();
readRasterfile();
}
private void registerWithJAI()
{
// Register the GeoTIFF descriptor with JAI.
GeoTIFFDescriptor.register();
}
private void parseGeoTIFFDirectory(GeoTIFFDirectory dir) throws Exception
{
// Find the ModelTiePoints field
XTIFFField fieldModelTiePoints = dir.getField(XTIFF.TIFFTAG_GEO_TIEPOINTS);
if (fieldModelTiePoints == null)
throw new Exception("Missing tiepoints-tag in file.\n" + MSG_GENERAL);
// Get the number of modeltiepoints
// int numModelTiePoints<SUF>
// ToDo: alleen numModelTiePoints == 1 ondersteunen.
// Map the modeltiepoints from raster to model space
// Read the tiepoints
setCoorRasterTiff_tiepointLT(new Coordinate(fieldModelTiePoints
.getAsDouble(0), fieldModelTiePoints.getAsDouble(1), 0));
setCoorModel_tiepointLT(new Coordinate(fieldModelTiePoints.getAsDouble(3),
fieldModelTiePoints.getAsDouble(4), 0));
setEnvelope();
// Find the ModelPixelScale field
XTIFFField fieldModelPixelScale = dir
.getField(XTIFF.TIFFTAG_GEO_PIXEL_SCALE);
if (fieldModelPixelScale == null)
throw new Exception("Missing pixelscale-tag in file." + "\n"
+ MSG_GENERAL);
setDblModelUnitsPerRasterUnit_X(fieldModelPixelScale.getAsDouble(0));
setDblModelUnitsPerRasterUnit_Y(fieldModelPixelScale.getAsDouble(1));
}
/**
* @return filename of the tiff worldfile
*/
private String worldFileName()
{
int posDot = fileName.lastIndexOf('.');
if (posDot == -1)
{
posDot = fileName.length();
}
return fileName.substring(0, posDot) + ".tfw";
}
private void parseWorldFile() throws Exception
{
// Get the name of the tiff worldfile.
String name = worldFileName();
// Read the tags from the tiff worldfile.
List lines = FileUtil.getContents(name);
double[] tags = new double[6];
for (int i = 0; i < 6; i++)
{
String line = (String) lines.get(i);
tags[i] = Double.parseDouble(line);
}
setAffineTransformation(new AffineTransform(tags));
}
protected void readRasterfile() throws Exception
{
// ImageCodec originalCodec = ImageCodec.getCodec("tiff");
try
{
super.readRasterfile();
// Get access to the tags and geokeys.
// First, get the TIFF directory
GeoTIFFDirectory dir = (GeoTIFFDirectory) src
.getProperty("tiff.directory");
if (dir == null)
throw new Exception("This is not a (geo)tiff file.");
try
{
// Try to parse any embedded geotiff tags.
parseGeoTIFFDirectory(dir);
} catch (Exception E)
{
// Embedded geotiff tags have not been found. Try
// to use a geotiff world file.
try
{
parseWorldFile();
} catch (Exception e)
{
throw new Exception(
"Neither geotiff tags nor valid worldfile found.\n" + MSG_GENERAL);
}
}
} finally
{
}
}
} |
213151_6 | package com.vividsolutions.jump.workbench.imagery.geotiff;
/*
* The Unified Mapping Platform (JUMP) is an extensible, interactive GUI
* for visualizing and manipulating spatial features with geometry and attributes.
*
* Copyright (C) 2003 Vivid Solutions
*
* This program is free software; you can redistribute it and/or
* modify it under the terms of the GNU General Public License
* as published by the Free Software Foundation; either version 2
* of the License, or (at your option) any later version.
*
* This program is distributed in the hope that it will be useful,
* but WITHOUT ANY WARRANTY; without even the implied warranty of
* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
* GNU General Public License for more details.
*
* You should have received a copy of the GNU General Public License
* along with this program; if not, write to the Free Software
* Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
*
* For more information, contact:
*
* Vivid Solutions
* Suite #1A
* 2328 Government Street
* Victoria BC V8T 5G5
* Canada
*
* (250)385-6040
* www.vividsolutions.com
*/
import java.awt.geom.AffineTransform;
import java.util.List;
import org.geotiff.image.jai.GeoTIFFDescriptor;
import org.geotiff.image.jai.GeoTIFFDirectory;
import org.libtiff.jai.codec.XTIFF;
import org.libtiff.jai.codec.XTIFFField;
import com.vividsolutions.jts.geom.Coordinate;
import com.vividsolutions.jump.util.FileUtil;
public class GeoTIFFRaster extends GeoReferencedRaster
{
private final String MSG_GENERAL = "This is not a valid GeoTIFF file.";
String fileName;
boolean hoPatch = false;
/**
* Called by Java2XML
*/
public GeoTIFFRaster(String imageFileLocation)
throws Exception
{
super(imageFileLocation);
registerWithJAI();
readRasterfile();
}
private void registerWithJAI()
{
// Register the GeoTIFF descriptor with JAI.
GeoTIFFDescriptor.register();
}
private void parseGeoTIFFDirectory(GeoTIFFDirectory dir) throws Exception
{
// Find the ModelTiePoints field
XTIFFField fieldModelTiePoints = dir.getField(XTIFF.TIFFTAG_GEO_TIEPOINTS);
if (fieldModelTiePoints == null)
throw new Exception("Missing tiepoints-tag in file.\n" + MSG_GENERAL);
// Get the number of modeltiepoints
// int numModelTiePoints = fieldModelTiePoints.getCount() / 6;
// ToDo: alleen numModelTiePoints == 1 ondersteunen.
// Map the modeltiepoints from raster to model space
// Read the tiepoints
setCoorRasterTiff_tiepointLT(new Coordinate(fieldModelTiePoints
.getAsDouble(0), fieldModelTiePoints.getAsDouble(1), 0));
setCoorModel_tiepointLT(new Coordinate(fieldModelTiePoints.getAsDouble(3),
fieldModelTiePoints.getAsDouble(4), 0));
setEnvelope();
// Find the ModelPixelScale field
XTIFFField fieldModelPixelScale = dir
.getField(XTIFF.TIFFTAG_GEO_PIXEL_SCALE);
if (fieldModelPixelScale == null)
throw new Exception("Missing pixelscale-tag in file." + "\n"
+ MSG_GENERAL);
setDblModelUnitsPerRasterUnit_X(fieldModelPixelScale.getAsDouble(0));
setDblModelUnitsPerRasterUnit_Y(fieldModelPixelScale.getAsDouble(1));
}
/**
* @return filename of the tiff worldfile
*/
private String worldFileName()
{
int posDot = fileName.lastIndexOf('.');
if (posDot == -1)
{
posDot = fileName.length();
}
return fileName.substring(0, posDot) + ".tfw";
}
private void parseWorldFile() throws Exception
{
// Get the name of the tiff worldfile.
String name = worldFileName();
// Read the tags from the tiff worldfile.
List lines = FileUtil.getContents(name);
double[] tags = new double[6];
for (int i = 0; i < 6; i++)
{
String line = (String) lines.get(i);
tags[i] = Double.parseDouble(line);
}
setAffineTransformation(new AffineTransform(tags));
}
protected void readRasterfile() throws Exception
{
// ImageCodec originalCodec = ImageCodec.getCodec("tiff");
try
{
super.readRasterfile();
// Get access to the tags and geokeys.
// First, get the TIFF directory
GeoTIFFDirectory dir = (GeoTIFFDirectory) src
.getProperty("tiff.directory");
if (dir == null)
throw new Exception("This is not a (geo)tiff file.");
try
{
// Try to parse any embedded geotiff tags.
parseGeoTIFFDirectory(dir);
} catch (Exception E)
{
// Embedded geotiff tags have not been found. Try
// to use a geotiff world file.
try
{
parseWorldFile();
} catch (Exception e)
{
throw new Exception(
"Neither geotiff tags nor valid worldfile found.\n" + MSG_GENERAL);
}
}
} finally
{
}
}
} | stackmystack/newmotorbac | src-jump/com/vividsolutions/jump/workbench/imagery/geotiff/GeoTIFFRaster.java | 1,459 | // ToDo: alleen numModelTiePoints == 1 ondersteunen.
| line_comment | nl | package com.vividsolutions.jump.workbench.imagery.geotiff;
/*
* The Unified Mapping Platform (JUMP) is an extensible, interactive GUI
* for visualizing and manipulating spatial features with geometry and attributes.
*
* Copyright (C) 2003 Vivid Solutions
*
* This program is free software; you can redistribute it and/or
* modify it under the terms of the GNU General Public License
* as published by the Free Software Foundation; either version 2
* of the License, or (at your option) any later version.
*
* This program is distributed in the hope that it will be useful,
* but WITHOUT ANY WARRANTY; without even the implied warranty of
* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
* GNU General Public License for more details.
*
* You should have received a copy of the GNU General Public License
* along with this program; if not, write to the Free Software
* Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
*
* For more information, contact:
*
* Vivid Solutions
* Suite #1A
* 2328 Government Street
* Victoria BC V8T 5G5
* Canada
*
* (250)385-6040
* www.vividsolutions.com
*/
import java.awt.geom.AffineTransform;
import java.util.List;
import org.geotiff.image.jai.GeoTIFFDescriptor;
import org.geotiff.image.jai.GeoTIFFDirectory;
import org.libtiff.jai.codec.XTIFF;
import org.libtiff.jai.codec.XTIFFField;
import com.vividsolutions.jts.geom.Coordinate;
import com.vividsolutions.jump.util.FileUtil;
public class GeoTIFFRaster extends GeoReferencedRaster
{
private final String MSG_GENERAL = "This is not a valid GeoTIFF file.";
String fileName;
boolean hoPatch = false;
/**
* Called by Java2XML
*/
public GeoTIFFRaster(String imageFileLocation)
throws Exception
{
super(imageFileLocation);
registerWithJAI();
readRasterfile();
}
private void registerWithJAI()
{
// Register the GeoTIFF descriptor with JAI.
GeoTIFFDescriptor.register();
}
private void parseGeoTIFFDirectory(GeoTIFFDirectory dir) throws Exception
{
// Find the ModelTiePoints field
XTIFFField fieldModelTiePoints = dir.getField(XTIFF.TIFFTAG_GEO_TIEPOINTS);
if (fieldModelTiePoints == null)
throw new Exception("Missing tiepoints-tag in file.\n" + MSG_GENERAL);
// Get the number of modeltiepoints
// int numModelTiePoints = fieldModelTiePoints.getCount() / 6;
// ToDo: alleen<SUF>
// Map the modeltiepoints from raster to model space
// Read the tiepoints
setCoorRasterTiff_tiepointLT(new Coordinate(fieldModelTiePoints
.getAsDouble(0), fieldModelTiePoints.getAsDouble(1), 0));
setCoorModel_tiepointLT(new Coordinate(fieldModelTiePoints.getAsDouble(3),
fieldModelTiePoints.getAsDouble(4), 0));
setEnvelope();
// Find the ModelPixelScale field
XTIFFField fieldModelPixelScale = dir
.getField(XTIFF.TIFFTAG_GEO_PIXEL_SCALE);
if (fieldModelPixelScale == null)
throw new Exception("Missing pixelscale-tag in file." + "\n"
+ MSG_GENERAL);
setDblModelUnitsPerRasterUnit_X(fieldModelPixelScale.getAsDouble(0));
setDblModelUnitsPerRasterUnit_Y(fieldModelPixelScale.getAsDouble(1));
}
/**
* @return filename of the tiff worldfile
*/
private String worldFileName()
{
int posDot = fileName.lastIndexOf('.');
if (posDot == -1)
{
posDot = fileName.length();
}
return fileName.substring(0, posDot) + ".tfw";
}
private void parseWorldFile() throws Exception
{
// Get the name of the tiff worldfile.
String name = worldFileName();
// Read the tags from the tiff worldfile.
List lines = FileUtil.getContents(name);
double[] tags = new double[6];
for (int i = 0; i < 6; i++)
{
String line = (String) lines.get(i);
tags[i] = Double.parseDouble(line);
}
setAffineTransformation(new AffineTransform(tags));
}
protected void readRasterfile() throws Exception
{
// ImageCodec originalCodec = ImageCodec.getCodec("tiff");
try
{
super.readRasterfile();
// Get access to the tags and geokeys.
// First, get the TIFF directory
GeoTIFFDirectory dir = (GeoTIFFDirectory) src
.getProperty("tiff.directory");
if (dir == null)
throw new Exception("This is not a (geo)tiff file.");
try
{
// Try to parse any embedded geotiff tags.
parseGeoTIFFDirectory(dir);
} catch (Exception E)
{
// Embedded geotiff tags have not been found. Try
// to use a geotiff world file.
try
{
parseWorldFile();
} catch (Exception e)
{
throw new Exception(
"Neither geotiff tags nor valid worldfile found.\n" + MSG_GENERAL);
}
}
} finally
{
}
}
} |
213155_0 | /**
* Vincent Verboven
* 14/11/2022
*/
public class TestLeden {
public static void main(String[] args) {
Leden leden = new Leden();
leden.voegLidToe(new Lid(1001, "Luka", Soort.GEWOON));
leden.voegLidToe(new Lid(1002, "Gevorg", Soort.ERELID));
leden.voegLidToe(new Lid(1003, "Lorenzo", Soort.STEUNEND));
leden.voegLidToe(new Lid(1004, "Pavel", Soort.GEWOON));
leden.voegLidToe(new Lid(1005, "Sarah", Soort.GEWOON));
leden.voegLidToe(new Lid(1006, "Noam", Soort.ERELID));
leden.printActieveLeden();
}
}
| Meastro85/OOPROG-Java1 | P2W1/P2W1/Voetbalclub/src/TestLeden.java | 232 | /**
* Vincent Verboven
* 14/11/2022
*/ | block_comment | nl | /**
* Vincent Verboven
<SUF>*/
public class TestLeden {
public static void main(String[] args) {
Leden leden = new Leden();
leden.voegLidToe(new Lid(1001, "Luka", Soort.GEWOON));
leden.voegLidToe(new Lid(1002, "Gevorg", Soort.ERELID));
leden.voegLidToe(new Lid(1003, "Lorenzo", Soort.STEUNEND));
leden.voegLidToe(new Lid(1004, "Pavel", Soort.GEWOON));
leden.voegLidToe(new Lid(1005, "Sarah", Soort.GEWOON));
leden.voegLidToe(new Lid(1006, "Noam", Soort.ERELID));
leden.printActieveLeden();
}
}
|
213162_0 | package be.kdg;
import be.kdg.leden.Leden;
import be.kdg.leden.Lid;
import static be.kdg.leden.Soort.*;
/*
Vul deze klasse aan zodat je de onderstaande uitvoer bekomt.
Tip. Je hebt een for-lus nodig.
*/
public class TestLeden {
public static void main(String[] args) {
Leden leden = new Leden();
leden.voegLidToe(new Lid("Jos", GEWOON));
leden.voegLidToe(new Lid("Bart", ERELID));
leden.voegLidToe(new Lid("Helmut", STEUNEND)); // lidnummer = 0
leden.voegLidToe(new Lid("Marie", GEWOON));
leden.voegLidToe(new Lid("Emma", GEWOON));
leden.voegLidToe(new Lid("Hagar", ERELID));
// tot hier
System.out.println("Aantal actieve leden: " + Lid.getAantalLeden());
for (int i = 0; i < leden.size(); i++) {
Lid lid = leden.getLid(i);
if (lid.getLidNummer() != 0) {
System.out.println(leden.getLid(i));
}
}
}
}
/*
Aantal actieve leden: 5
1001 Jos soort: gewoon
1002 Bart soort: erelid
1003 Marie soort: gewoon
1004 Emma soort: gewoon
1005 Hagar soort: erelid
*/ | gvdhaege/KdG | Java Programming/OOPROG/P2W2/Oplossingen/Leden/src/be/kdg/TestLeden.java | 384 | /*
Vul deze klasse aan zodat je de onderstaande uitvoer bekomt.
Tip. Je hebt een for-lus nodig.
*/ | block_comment | nl | package be.kdg;
import be.kdg.leden.Leden;
import be.kdg.leden.Lid;
import static be.kdg.leden.Soort.*;
/*
Vul deze klasse<SUF>*/
public class TestLeden {
public static void main(String[] args) {
Leden leden = new Leden();
leden.voegLidToe(new Lid("Jos", GEWOON));
leden.voegLidToe(new Lid("Bart", ERELID));
leden.voegLidToe(new Lid("Helmut", STEUNEND)); // lidnummer = 0
leden.voegLidToe(new Lid("Marie", GEWOON));
leden.voegLidToe(new Lid("Emma", GEWOON));
leden.voegLidToe(new Lid("Hagar", ERELID));
// tot hier
System.out.println("Aantal actieve leden: " + Lid.getAantalLeden());
for (int i = 0; i < leden.size(); i++) {
Lid lid = leden.getLid(i);
if (lid.getLidNummer() != 0) {
System.out.println(leden.getLid(i));
}
}
}
}
/*
Aantal actieve leden: 5
1001 Jos soort: gewoon
1002 Bart soort: erelid
1003 Marie soort: gewoon
1004 Emma soort: gewoon
1005 Hagar soort: erelid
*/ |
213163_0 | package be.kdg.leden;
/*
Vul deze enum aan .... .
*/
public enum Soort {
GEWOON("gewoon"),
STEUNEND("steunend"),
ERELID("erelid");
private final String soort;
Soort(String soort) {
this.soort = soort;
}
@Override
public String toString() {
return soort;
}
}
| gvdhaege/KdG | Java Programming/OOPROG/P2W2/Oplossingen/Leden/src/be/kdg/leden/Soort.java | 103 | /*
Vul deze enum aan .... .
*/ | block_comment | nl | package be.kdg.leden;
/*
Vul deze enum<SUF>*/
public enum Soort {
GEWOON("gewoon"),
STEUNEND("steunend"),
ERELID("erelid");
private final String soort;
Soort(String soort) {
this.soort = soort;
}
@Override
public String toString() {
return soort;
}
}
|
213164_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at www.github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.service.bevraging.zoekpersoongeneriek;
import java.util.Map;
import javax.inject.Inject;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.ElementBasisType;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.Regel;
import nl.bzk.algemeenbrp.util.common.DatumUtil;
import nl.bzk.brp.domain.algemeen.DatumFormatterUtil;
import nl.bzk.brp.domain.algemeen.StamtabelGegevens;
import nl.bzk.brp.domain.element.AttribuutElement;
import nl.bzk.brp.domain.element.ElementObject;
import nl.bzk.brp.service.algemeen.StapException;
import nl.bzk.brp.service.algemeen.StapMeldingException;
import nl.bzk.brp.service.algemeen.stamgegevens.StamTabelService;
import org.springframework.stereotype.Service;
/**
* ZoekCriteriaConverteerServiceImpl.
*/
@Service
final class ZoekCriteriaWaardeConverteerServiceImpl implements ZoekCriteriaWaardeConverteerService {
@Inject
private StamTabelService stamTabelService;
private ZoekCriteriaWaardeConverteerServiceImpl() {
}
@Override
public Object converteerWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
if (waarde == null) {
return null;
}
final Object waardeGeconverteerd;
if (attribuutElement.isStamgegevenReferentie()) {
waardeGeconverteerd = bepaalStamgegevenWaarde(attribuutElement, waarde);
} else {
waardeGeconverteerd = bepaalWaarde(attribuutElement, waarde);
}
if (waardeGeconverteerd == null) {
throw new StapException("kan waarde niet bepalen");
}
return waardeGeconverteerd;
}
private Object bepaalWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
final Object waardeGeconverteerd;
final ElementBasisType datatype = attribuutElement.getDatatype();
if (datatype == ElementBasisType.DATUM) {
//kunnen onbekende delen inzitten, dus geen iso formatter
waardeGeconverteerd = bepaalDatumWaarde(waarde);
} else if (datatype == ElementBasisType.DATUMTIJD) {
waardeGeconverteerd = DatumUtil.vanXsdDatumTijdNaarDate(waarde);
} else if (datatype == ElementBasisType.BOOLEAN) {
waardeGeconverteerd = "j".equalsIgnoreCase(waarde);
} else if (attribuutElement.isGetal()) {
waardeGeconverteerd = Long.parseLong(waarde);
} else {
waardeGeconverteerd = waarde;
}
return waardeGeconverteerd;
}
private Integer bepaalDatumWaarde(final String waarde) throws StapException {
final Integer datum = DatumFormatterUtil.deelsOnbekendeDatumAlsStringNaarGetal(waarde);
if (datum == null) {
throw new StapMeldingException(Regel.R2308);
}
return datum;
}
private Object bepaalStamgegevenWaarde(final AttribuutElement attribuutElement, final String waarde)
throws StapException {
final ElementObject elementObject = attribuutElement.getTypeObject();
final StamtabelGegevens gegevens = stamTabelService.geefStamgegevens(elementObject.getNaam() + StamtabelGegevens.TABEL_POSTFIX);
if (gegevens == null) {
throw new StapException("kan stamgegevens niet bepalen");
}
Object waardeGeconverteerd = null;
for (final Map<String, Object> gegeven : gegevens.getStamgegevens()) {
//voor zoeken ondersteunen we alleen code zoeken voor stamgegevens.
final Object code = gegeven.get("code");
if (code != null && waarde.equals(code.toString())) {
waardeGeconverteerd = gegeven.get("id");
break;
}
}
if (waardeGeconverteerd == null) {
throw new StapMeldingException(Regel.R2308);
}
return waardeGeconverteerd;
}
}
| DDDNL/OperatieBRP | Broncode/operatiebrp-code-145.3/brp/brp-leveren/brp-leveren-service/brp-service-bevraging/src/main/java/nl/bzk/brp/service/bevraging/zoekpersoongeneriek/ZoekCriteriaWaardeConverteerServiceImpl.java | 1,141 | //kunnen onbekende delen inzitten, dus geen iso formatter | line_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at www.github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.service.bevraging.zoekpersoongeneriek;
import java.util.Map;
import javax.inject.Inject;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.ElementBasisType;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.Regel;
import nl.bzk.algemeenbrp.util.common.DatumUtil;
import nl.bzk.brp.domain.algemeen.DatumFormatterUtil;
import nl.bzk.brp.domain.algemeen.StamtabelGegevens;
import nl.bzk.brp.domain.element.AttribuutElement;
import nl.bzk.brp.domain.element.ElementObject;
import nl.bzk.brp.service.algemeen.StapException;
import nl.bzk.brp.service.algemeen.StapMeldingException;
import nl.bzk.brp.service.algemeen.stamgegevens.StamTabelService;
import org.springframework.stereotype.Service;
/**
* ZoekCriteriaConverteerServiceImpl.
*/
@Service
final class ZoekCriteriaWaardeConverteerServiceImpl implements ZoekCriteriaWaardeConverteerService {
@Inject
private StamTabelService stamTabelService;
private ZoekCriteriaWaardeConverteerServiceImpl() {
}
@Override
public Object converteerWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
if (waarde == null) {
return null;
}
final Object waardeGeconverteerd;
if (attribuutElement.isStamgegevenReferentie()) {
waardeGeconverteerd = bepaalStamgegevenWaarde(attribuutElement, waarde);
} else {
waardeGeconverteerd = bepaalWaarde(attribuutElement, waarde);
}
if (waardeGeconverteerd == null) {
throw new StapException("kan waarde niet bepalen");
}
return waardeGeconverteerd;
}
private Object bepaalWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
final Object waardeGeconverteerd;
final ElementBasisType datatype = attribuutElement.getDatatype();
if (datatype == ElementBasisType.DATUM) {
//kunnen onbekende<SUF>
waardeGeconverteerd = bepaalDatumWaarde(waarde);
} else if (datatype == ElementBasisType.DATUMTIJD) {
waardeGeconverteerd = DatumUtil.vanXsdDatumTijdNaarDate(waarde);
} else if (datatype == ElementBasisType.BOOLEAN) {
waardeGeconverteerd = "j".equalsIgnoreCase(waarde);
} else if (attribuutElement.isGetal()) {
waardeGeconverteerd = Long.parseLong(waarde);
} else {
waardeGeconverteerd = waarde;
}
return waardeGeconverteerd;
}
private Integer bepaalDatumWaarde(final String waarde) throws StapException {
final Integer datum = DatumFormatterUtil.deelsOnbekendeDatumAlsStringNaarGetal(waarde);
if (datum == null) {
throw new StapMeldingException(Regel.R2308);
}
return datum;
}
private Object bepaalStamgegevenWaarde(final AttribuutElement attribuutElement, final String waarde)
throws StapException {
final ElementObject elementObject = attribuutElement.getTypeObject();
final StamtabelGegevens gegevens = stamTabelService.geefStamgegevens(elementObject.getNaam() + StamtabelGegevens.TABEL_POSTFIX);
if (gegevens == null) {
throw new StapException("kan stamgegevens niet bepalen");
}
Object waardeGeconverteerd = null;
for (final Map<String, Object> gegeven : gegevens.getStamgegevens()) {
//voor zoeken ondersteunen we alleen code zoeken voor stamgegevens.
final Object code = gegeven.get("code");
if (code != null && waarde.equals(code.toString())) {
waardeGeconverteerd = gegeven.get("id");
break;
}
}
if (waardeGeconverteerd == null) {
throw new StapMeldingException(Regel.R2308);
}
return waardeGeconverteerd;
}
}
|
213164_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at www.github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.service.bevraging.zoekpersoongeneriek;
import java.util.Map;
import javax.inject.Inject;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.ElementBasisType;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.Regel;
import nl.bzk.algemeenbrp.util.common.DatumUtil;
import nl.bzk.brp.domain.algemeen.DatumFormatterUtil;
import nl.bzk.brp.domain.algemeen.StamtabelGegevens;
import nl.bzk.brp.domain.element.AttribuutElement;
import nl.bzk.brp.domain.element.ElementObject;
import nl.bzk.brp.service.algemeen.StapException;
import nl.bzk.brp.service.algemeen.StapMeldingException;
import nl.bzk.brp.service.algemeen.stamgegevens.StamTabelService;
import org.springframework.stereotype.Service;
/**
* ZoekCriteriaConverteerServiceImpl.
*/
@Service
final class ZoekCriteriaWaardeConverteerServiceImpl implements ZoekCriteriaWaardeConverteerService {
@Inject
private StamTabelService stamTabelService;
private ZoekCriteriaWaardeConverteerServiceImpl() {
}
@Override
public Object converteerWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
if (waarde == null) {
return null;
}
final Object waardeGeconverteerd;
if (attribuutElement.isStamgegevenReferentie()) {
waardeGeconverteerd = bepaalStamgegevenWaarde(attribuutElement, waarde);
} else {
waardeGeconverteerd = bepaalWaarde(attribuutElement, waarde);
}
if (waardeGeconverteerd == null) {
throw new StapException("kan waarde niet bepalen");
}
return waardeGeconverteerd;
}
private Object bepaalWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
final Object waardeGeconverteerd;
final ElementBasisType datatype = attribuutElement.getDatatype();
if (datatype == ElementBasisType.DATUM) {
//kunnen onbekende delen inzitten, dus geen iso formatter
waardeGeconverteerd = bepaalDatumWaarde(waarde);
} else if (datatype == ElementBasisType.DATUMTIJD) {
waardeGeconverteerd = DatumUtil.vanXsdDatumTijdNaarDate(waarde);
} else if (datatype == ElementBasisType.BOOLEAN) {
waardeGeconverteerd = "j".equalsIgnoreCase(waarde);
} else if (attribuutElement.isGetal()) {
waardeGeconverteerd = Long.parseLong(waarde);
} else {
waardeGeconverteerd = waarde;
}
return waardeGeconverteerd;
}
private Integer bepaalDatumWaarde(final String waarde) throws StapException {
final Integer datum = DatumFormatterUtil.deelsOnbekendeDatumAlsStringNaarGetal(waarde);
if (datum == null) {
throw new StapMeldingException(Regel.R2308);
}
return datum;
}
private Object bepaalStamgegevenWaarde(final AttribuutElement attribuutElement, final String waarde)
throws StapException {
final ElementObject elementObject = attribuutElement.getTypeObject();
final StamtabelGegevens gegevens = stamTabelService.geefStamgegevens(elementObject.getNaam() + StamtabelGegevens.TABEL_POSTFIX);
if (gegevens == null) {
throw new StapException("kan stamgegevens niet bepalen");
}
Object waardeGeconverteerd = null;
for (final Map<String, Object> gegeven : gegevens.getStamgegevens()) {
//voor zoeken ondersteunen we alleen code zoeken voor stamgegevens.
final Object code = gegeven.get("code");
if (code != null && waarde.equals(code.toString())) {
waardeGeconverteerd = gegeven.get("id");
break;
}
}
if (waardeGeconverteerd == null) {
throw new StapMeldingException(Regel.R2308);
}
return waardeGeconverteerd;
}
}
| DDDNL/OperatieBRP | Broncode/operatiebrp-code-145.3/brp/brp-leveren/brp-leveren-service/brp-service-bevraging/src/main/java/nl/bzk/brp/service/bevraging/zoekpersoongeneriek/ZoekCriteriaWaardeConverteerServiceImpl.java | 1,141 | //voor zoeken ondersteunen we alleen code zoeken voor stamgegevens. | line_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at www.github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.service.bevraging.zoekpersoongeneriek;
import java.util.Map;
import javax.inject.Inject;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.ElementBasisType;
import nl.bzk.algemeenbrp.dal.domein.brp.enums.Regel;
import nl.bzk.algemeenbrp.util.common.DatumUtil;
import nl.bzk.brp.domain.algemeen.DatumFormatterUtil;
import nl.bzk.brp.domain.algemeen.StamtabelGegevens;
import nl.bzk.brp.domain.element.AttribuutElement;
import nl.bzk.brp.domain.element.ElementObject;
import nl.bzk.brp.service.algemeen.StapException;
import nl.bzk.brp.service.algemeen.StapMeldingException;
import nl.bzk.brp.service.algemeen.stamgegevens.StamTabelService;
import org.springframework.stereotype.Service;
/**
* ZoekCriteriaConverteerServiceImpl.
*/
@Service
final class ZoekCriteriaWaardeConverteerServiceImpl implements ZoekCriteriaWaardeConverteerService {
@Inject
private StamTabelService stamTabelService;
private ZoekCriteriaWaardeConverteerServiceImpl() {
}
@Override
public Object converteerWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
if (waarde == null) {
return null;
}
final Object waardeGeconverteerd;
if (attribuutElement.isStamgegevenReferentie()) {
waardeGeconverteerd = bepaalStamgegevenWaarde(attribuutElement, waarde);
} else {
waardeGeconverteerd = bepaalWaarde(attribuutElement, waarde);
}
if (waardeGeconverteerd == null) {
throw new StapException("kan waarde niet bepalen");
}
return waardeGeconverteerd;
}
private Object bepaalWaarde(final AttribuutElement attribuutElement, final String waarde) throws StapException {
final Object waardeGeconverteerd;
final ElementBasisType datatype = attribuutElement.getDatatype();
if (datatype == ElementBasisType.DATUM) {
//kunnen onbekende delen inzitten, dus geen iso formatter
waardeGeconverteerd = bepaalDatumWaarde(waarde);
} else if (datatype == ElementBasisType.DATUMTIJD) {
waardeGeconverteerd = DatumUtil.vanXsdDatumTijdNaarDate(waarde);
} else if (datatype == ElementBasisType.BOOLEAN) {
waardeGeconverteerd = "j".equalsIgnoreCase(waarde);
} else if (attribuutElement.isGetal()) {
waardeGeconverteerd = Long.parseLong(waarde);
} else {
waardeGeconverteerd = waarde;
}
return waardeGeconverteerd;
}
private Integer bepaalDatumWaarde(final String waarde) throws StapException {
final Integer datum = DatumFormatterUtil.deelsOnbekendeDatumAlsStringNaarGetal(waarde);
if (datum == null) {
throw new StapMeldingException(Regel.R2308);
}
return datum;
}
private Object bepaalStamgegevenWaarde(final AttribuutElement attribuutElement, final String waarde)
throws StapException {
final ElementObject elementObject = attribuutElement.getTypeObject();
final StamtabelGegevens gegevens = stamTabelService.geefStamgegevens(elementObject.getNaam() + StamtabelGegevens.TABEL_POSTFIX);
if (gegevens == null) {
throw new StapException("kan stamgegevens niet bepalen");
}
Object waardeGeconverteerd = null;
for (final Map<String, Object> gegeven : gegevens.getStamgegevens()) {
//voor zoeken<SUF>
final Object code = gegeven.get("code");
if (code != null && waarde.equals(code.toString())) {
waardeGeconverteerd = gegeven.get("id");
break;
}
}
if (waardeGeconverteerd == null) {
throw new StapMeldingException(Regel.R2308);
}
return waardeGeconverteerd;
}
}
|
213165_0 | /**
* Vincent Verboven
* 14/11/2022
*/
public class Leden {
private static final int capaciteit = 100;
private Lid[] ledenLijst;
private int aantal;
private int actieveLeden;
public Leden(){
this.ledenLijst = new Lid[capaciteit];
this.aantal = 0;
}
public void voegLidToe(Lid lid){
this.ledenLijst[aantal] = lid;
this.aantal++;
}
public Lid getLid(int index) {
return ledenLijst[index];
}
public int getAantal() {
return aantal;
}
public int getAantalActieveLeden(){
actieveLeden = 0;
for (int i = 0; i < this.aantal; i++) {
if (ledenLijst[i].getSoort() != Soort.STEUNEND){
actieveLeden++;
}
}
return actieveLeden;
}
public void printActieveLeden(){
System.out.println("Aantal actieve leden: " + this.getAantalActieveLeden());
for (int i = 0; i < this.aantal; i++) {
if (ledenLijst[i].getSoort() != Soort.STEUNEND){
System.out.println(ledenLijst[i]);
}
}
}
}
| Meastro85/OOPROG-Java1 | P2W1/P2W1/Voetbalclub/src/Leden.java | 363 | /**
* Vincent Verboven
* 14/11/2022
*/ | block_comment | nl | /**
* Vincent Verboven
<SUF>*/
public class Leden {
private static final int capaciteit = 100;
private Lid[] ledenLijst;
private int aantal;
private int actieveLeden;
public Leden(){
this.ledenLijst = new Lid[capaciteit];
this.aantal = 0;
}
public void voegLidToe(Lid lid){
this.ledenLijst[aantal] = lid;
this.aantal++;
}
public Lid getLid(int index) {
return ledenLijst[index];
}
public int getAantal() {
return aantal;
}
public int getAantalActieveLeden(){
actieveLeden = 0;
for (int i = 0; i < this.aantal; i++) {
if (ledenLijst[i].getSoort() != Soort.STEUNEND){
actieveLeden++;
}
}
return actieveLeden;
}
public void printActieveLeden(){
System.out.println("Aantal actieve leden: " + this.getAantalActieveLeden());
for (int i = 0; i < this.aantal; i++) {
if (ledenLijst[i].getSoort() != Soort.STEUNEND){
System.out.println(ledenLijst[i]);
}
}
}
}
|
213169_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 553 | /**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213169_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 553 | /**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum<SUF>*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213169_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 553 | /**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213169_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 553 | /**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum<SUF>*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213169_9 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 553 | /**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijd;
import nl.bzk.brp.model.operationeel.kern.ActieModel;
/** Classes die de formele historie ondersteunen. */
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie<SUF>*/
void setActieVerval(ActieModel actie);
}
|
213170_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.9/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 554 | /**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213170_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.9/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 554 | /**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum<SUF>*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213170_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.9/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 554 | /**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213170_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.9/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 554 | /**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum<SUF>*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213170_9 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.9/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 554 | /**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie<SUF>*/
void setActieVerval(ActieModel actie);
}
|
213171_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 558 | /**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213171_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 558 | /**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum<SUF>*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213171_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 558 | /**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum<SUF>*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213171_9 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorie.java | 558 | /**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.DatumTijd;
import nl.bzk.brp.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actieMdl ActieMdl
*/
void setActieInhoud(ActieModel actieMdl);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie<SUF>*/
void setActieVerval(ActieModel actie);
}
|
213172_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.2.1/model/src/main/java/nl/bzk/brp/model/basis/GeldigheidsPeriode.java | 370 | /**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.Datum;
/**
* Een object dat<SUF>*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213172_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.2.1/model/src/main/java/nl/bzk/brp/model/basis/GeldigheidsPeriode.java | 370 | /**
* Geeft de aanvangs datum.
* @return de datum
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs<SUF>*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213172_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.2.1/model/src/main/java/nl/bzk/brp/model/basis/GeldigheidsPeriode.java | 370 | /**
* Test of het object geldig is op een bepaald datum.
* @param peilDatum de datum
* @return true als geldig, false anders.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het<SUF>*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213173_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvangGeldigheid();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEindeGeldigheid();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/tags/v0.3.0/src/main/java/nl/bzk/brp/model/basis/GeldigheidsPeriode.java | 389 | /**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.Datum;
/**
* Een object dat<SUF>*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvangGeldigheid();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEindeGeldigheid();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213173_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvangGeldigheid();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEindeGeldigheid();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/tags/v0.3.0/src/main/java/nl/bzk/brp/model/basis/GeldigheidsPeriode.java | 389 | /**
* Geeft de aanvangs datum.
*
* @return de datum
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs<SUF>*/
Datum getDatumAanvangGeldigheid();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEindeGeldigheid();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213173_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvangGeldigheid();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEindeGeldigheid();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/tags/v0.3.0/src/main/java/nl/bzk/brp/model/basis/GeldigheidsPeriode.java | 389 | /**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvangGeldigheid();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEindeGeldigheid();
/**
* Test of het<SUF>*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213174_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijdAttribuut;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorieModel extends FormeleHistorie {
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijdAttribuut datumTijd);
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijdAttribuut datumTijd);
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/algemeen/algemeen-model/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorieModel.java | 271 | /**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijdAttribuut;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorieModel extends FormeleHistorie {
/**
* Zet de datum<SUF>*/
void setDatumTijdRegistratie(DatumTijdAttribuut datumTijd);
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijdAttribuut datumTijd);
}
|
213174_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijdAttribuut;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorieModel extends FormeleHistorie {
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijdAttribuut datumTijd);
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijdAttribuut datumTijd);
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/algemeen/algemeen-model/model/src/main/java/nl/bzk/brp/model/basis/FormeleHistorieModel.java | 271 | /**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import nl.bzk.brp.model.algemeen.attribuuttype.kern.DatumTijdAttribuut;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorieModel extends FormeleHistorie {
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijdAttribuut datumTijd);
/**
* Zet de datum<SUF>*/
void setDatumTijdVerval(DatumTijdAttribuut datumTijd);
}
|
213175_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/FormeleHistorie.java | 549 | /**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213175_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/FormeleHistorie.java | 549 | /**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum<SUF>*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213175_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/FormeleHistorie.java | 549 | /**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie<SUF>*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213175_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/FormeleHistorie.java | 549 | /**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum<SUF>*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213175_8 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/FormeleHistorie.java | 549 | /**
* Retourneert de actieVerval.
*
* @return actie
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
<SUF>*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
|
213175_9 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/
void setActieVerval(ActieModel actie);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/FormeleHistorie.java | 549 | /**
* Zet de actie voor verval.
*
* @param actie ActieMdl
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.DatumTijd;
import nl.bzk.copy.model.objecttype.operationeel.ActieModel;
/**
* Classes die de formele historie ondersteunen.
*/
public interface FormeleHistorie {
/**
* Retourneert (een kopie van) de timestamp van registratie.
*
* @return (een kopie) van de timestamp van registratie.
*/
DatumTijd getDatumTijdRegistratie();
/**
* Zet de datum tijd registratie.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdRegistratie(DatumTijd datumTijd);
/**
* Retourneert (een kopie van) de timestamp van vervallen.
*
* @return (een kopie) van de timestamp van vervallen.
*/
DatumTijd getDatumTijdVerval();
/**
* Zet de datum tijd verval.
*
* @param datumTijd DatumTijd
*/
void setDatumTijdVerval(DatumTijd datumTijd);
/**
* Retourneert de actie.
*
* @return actie.
*/
ActieModel getActieInhoud();
/**
* Zet de actie.
*
* @param actie ActieMdl
*/
void setActieInhoud(ActieModel actie);
/**
* Retourneert de actieVerval.
*
* @return actie
*/
ActieModel getActieVerval();
/**
* Zet de actie<SUF>*/
void setActieVerval(ActieModel actie);
}
|
213176_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/GeldigheidsPeriode.java | 379 | /**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.Datum;
/**
* Een object dat<SUF>*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213176_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/GeldigheidsPeriode.java | 379 | /**
* Geeft de aanvangs datum.
*
* @return de datum
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs<SUF>*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213176_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/research/poc-bevraging/tags/0.1.0/src/main/java/nl/bzk/copy/model/basis/GeldigheidsPeriode.java | 379 | /**
* Test of het object geldig is op een bepaald datum.
*
* @param peilDatum de datum
* @return true als geldig, false anders.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.copy.model.basis;
import nl.bzk.copy.model.attribuuttype.Datum;
/**
* Een object dat de interface GeldigheidsPeriode ondersteund, moet een datumaang, datumEinde kunnen terggeven
* en een test ondersteunen of het object geldig is op een specifieke peilDatum.
*/
public interface GeldigheidsPeriode {
/**
* Geeft de aanvangs datum.
*
* @return de datum
*/
Datum getDatumAanvang();
/**
* Geeft de einde datum.
*
* @return de datum
*/
Datum getDatumEinde();
/**
* Test of het<SUF>*/
boolean isGeldigOp(final Datum peilDatum);
/**
* .
*
* @param beginDatum .
* @param eindDatum .
* @return .
*/
boolean isGeldigPeriode(final Datum beginDatum, final Datum eindDatum);
}
|
213177_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service;
import java.util.List;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
public interface LeesService {
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
List<Lo3Persoonslijst> leesLo3Persoonslijst(String filename, byte[] file, FoutMelder foutMelder);
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/LeesService.java | 399 | /**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service;
import java.util.List;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
/**
* Verzorgt het inlezen<SUF>*/
public interface LeesService {
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
List<Lo3Persoonslijst> leesLo3Persoonslijst(String filename, byte[] file, FoutMelder foutMelder);
}
|
213177_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service;
import java.util.List;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
public interface LeesService {
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
List<Lo3Persoonslijst> leesLo3Persoonslijst(String filename, byte[] file, FoutMelder foutMelder);
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/LeesService.java | 399 | /**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service;
import java.util.List;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
public interface LeesService {
/**
* Leest de Lo3Persoonslijst<SUF>*/
List<Lo3Persoonslijst> leesLo3Persoonslijst(String filename, byte[] file, FoutMelder foutMelder);
}
|
213189_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen<SUF>*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst<SUF>*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | // CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm. | line_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF -<SUF>
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | // Maak lege lijst aan in geval van errors | line_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege<SUF>
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01<SUF>*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_6 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel<SUF>*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_8 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM<SUF>*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_11 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | // Maak Lg01 bericht van elk datarecord in bestand | line_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01<SUF>
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_14 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes<SUF>*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_15 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden<SUF>*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213189_16 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
| MinBZK/OperatieBRP | 2013/migratie 2013-02-13/migr-ggo-viewer/src/main/java/nl/moderniseringgba/migratie/conversie/viewer/service/impl/LeesServiceImpl.java | 2,854 | /**
* Converteert de Lg01 body naar een Lo3Persoonslijst.
*
* @param lg01
* String
* @return lo3Persoonslijst
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.moderniseringgba.migratie.conversie.viewer.service.impl;
import java.io.ByteArrayInputStream;
import java.io.File;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import javax.inject.Inject;
import nl.gba.gbav.am.DataRecord;
import nl.gba.gbav.impl.am.AMReaderFactoryImpl;
import nl.gba.gbav.impl.am.AMReaderImpl;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.Lo3BerichtFactory;
import nl.moderniseringgba.isc.esb.message.lo3.impl.Lg01Bericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OnbekendBericht;
import nl.moderniseringgba.isc.esb.message.lo3.impl.OngeldigBericht;
import nl.moderniseringgba.isc.esb.message.lo3.parser.Lo3PersoonslijstParser;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapter;
import nl.moderniseringgba.migratie.adapter.excel.ExcelAdapterException;
import nl.moderniseringgba.migratie.adapter.excel.ExcelData;
import nl.moderniseringgba.migratie.conversie.model.lo3.Lo3Persoonslijst;
import nl.moderniseringgba.migratie.conversie.model.logging.LogSeverity;
import nl.moderniseringgba.migratie.conversie.viewer.log.FoutMelder;
import nl.moderniseringgba.migratie.conversie.viewer.service.LeesService;
import nl.moderniseringgba.migratie.logging.Logger;
import nl.moderniseringgba.migratie.logging.LoggerFactory;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Component;
/**
* Verzorgt het inlezen van de ondersteunde bestandsformaten.
*/
@Component
public class LeesServiceImpl implements LeesService {
private static final Logger LOG = LoggerFactory.getLogger();
private static final String GBA_FILE_EXT = ".gba";
private static final String XLS_FILE_EXT = ".xls";
private static final String TXT_FILE_EXT = ".txt";
@Inject
private ExcelAdapter excelAdapter;
private final Lo3PersoonslijstParser parser = new Lo3PersoonslijstParser();
/**
* Leest de Lo3Persoonslijst in uit een geupload bestand. Bestandstype is "Lg01 of AM" (Alternatieve Media; lo3.7
* blz. 612) Volgens mij moet het inlezen van dit formaat nog vanaf 0 worden geschreven. Voor nu kunnen we ook het
* test Excel formaat ondersteunen, dan hebben we alvast iets.
*
* @param filename
* De naam van het bestand.
* @param file
* De file zelf in een byte array.
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return De lijst met Lo3Persoonslijsten.
*/
@Override
public final List<Lo3Persoonslijst> leesLo3Persoonslijst(
final String filename,
final byte[] file,
final FoutMelder foutMelder) {
List<Lo3Persoonslijst> persoonslijsten = null;
try {
if (filename.toLowerCase().endsWith(TXT_FILE_EXT)) {
persoonslijsten = leesLg01(file, foutMelder);
} else if (filename.toLowerCase().endsWith(XLS_FILE_EXT)) {
persoonslijsten = leesExcel(file, foutMelder);
} else if (filename.toLowerCase().endsWith(GBA_FILE_EXT)) {
persoonslijsten = leesAM(filename, file, foutMelder);
} else {
foutMelder.log(LogSeverity.WARNING, "Onbekende extensie", filename);
}
// CHECKSTYLE:OFF - Alle fouten afvangen en een nette melding op het scherm.
} catch (final RuntimeException e) { // NOSONAR
// CHECKSTYLE:ON
foutMelder.log(LogSeverity.ERROR, "Fout bij inlezen Lo3 persoonslijst", e);
}
// Maak lege lijst aan in geval van errors
if (persoonslijsten == null) {
persoonslijsten = new ArrayList<Lo3Persoonslijst>();
}
return persoonslijsten;
}
/**
* Leest een lg01 formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesLg01(final byte[] file, final FoutMelder foutMelder) {
final String berichtString = new String(file);
return Collections.singletonList(converteerLg01NaarLo3Persoonslijst(berichtString, foutMelder));
}
/**
* Leest een excel formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesExcel(final byte[] file, final FoutMelder foutMelder) {
try {
// Lees excel
final List<ExcelData> excelDatas = excelAdapter.leesExcelBestand(new ByteArrayInputStream(file));
// Parsen input *ZONDER* syntax en precondite controles
final List<Lo3Persoonslijst> lo3Persoonslijsten = new ArrayList<Lo3Persoonslijst>();
for (final ExcelData excelData : excelDatas) {
lo3Persoonslijsten.add(parser.parse(excelData.getCategorieLijst()));
}
return lo3Persoonslijsten;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden Excel", e.getMessage());
} catch (final ExcelAdapterException e) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van Excel", e.getMessage());
}
return null;
}
/**
* Leest een AM formaat in en retourneert een lijst van Lo3Persoonslijst.
*
* @param file
* byte[]
* @param foutMelder
* Het object om verwerkingsfouten aan te melden.
* @return List of Lo3Persoonslijst
*/
private List<Lo3Persoonslijst> leesAM(final String filename, final byte[] fileData, final FoutMelder foutMelder) {
final List<Lo3Persoonslijst> result = new ArrayList<Lo3Persoonslijst>();
final AMReaderFactoryImpl factory = new AMReaderFactoryImpl();
final AMReaderImpl amReader = (AMReaderImpl) factory.create();
File amFile = null;
try {
// Kopieer data naar server
amFile = kopieerBestandNaarServer(filename, fileData);
// Lees AM bestand in
amReader.setFiles(new File[] { amFile });
amReader.open();
while (amReader.hasData()) {
// Maak Lg01 bericht van elk datarecord in bestand
final DataRecord dr = amReader.readData();
final String lg01 = dr.getBody();
result.add(converteerLg01NaarLo3Persoonslijst(lg01, foutMelder));
}
return result;
} catch (final IOException e) {
foutMelder.log(LogSeverity.ERROR, "Bestandsfout bij uploaden AM", e.getMessage());
return null;
} finally {
// Close AM bestand
amReader.close();
// Clean up AM bestand(en)
if (amFile != null) {
verwijderBestand(amFile, foutMelder);
}
}
}
/**
* Kopieert de bytes naar een Bestand met de opgegeven naam in de opgegeven upload directory.
*
* @param uploadDirectory
* String
* @param filename
* String
* @param data
* byte array
* @return file
* @throws IOException
* als er fouten optreden tijdens het schrijven naar bestand
*/
private File kopieerBestandNaarServer(final String filename, final byte[] data) throws IOException {
final File destFile = File.createTempFile("upload", GBA_FILE_EXT);
LOG.info("Kopieer data naar " + destFile.getAbsolutePath());
FileUtils.writeByteArrayToFile(destFile, data);
return destFile;
}
/**
* Verwijderd de bestanden in de opgegeven directory.
*
* @param uploadDirectory
* De upload directory
* @return true als de verwijder actie geslaagd is
*/
private boolean verwijderBestand(final File amFile, final FoutMelder foutMelder) {
boolean success = false;
try {
success = amFile.delete();
if (success) {
LOG.info("Deleted uploaded file: " + amFile.getAbsolutePath());
} else {
LOG.info("Could not delete file: " + amFile.getAbsolutePath());
}
} catch (final SecurityException ex) {
LOG.debug("Exception occured, could not delete file: " + amFile.getAbsolutePath(), ex);
// schedule it
try {
FileUtils.forceDeleteOnExit(amFile);
LOG.info("File scheduled for delete: " + amFile.getAbsolutePath());
} catch (final IOException e) {
foutMelder.log(LogSeverity.WARNING, "Bestandsfout bij verwijderen geuploade AM bestand",
e.getMessage());
}
}
return success;
}
/**
* Converteert de Lg01<SUF>*/
private Lo3Persoonslijst converteerLg01NaarLo3Persoonslijst(final String lg01, final FoutMelder foutMelder) {
if (lg01 == null || "".equals(lg01)) {
foutMelder.log(LogSeverity.ERROR, "Fout bij het lezen van lg01", "Bestand is leeg");
} else {
final Lo3BerichtFactory bf = new Lo3BerichtFactory();
final Lo3Bericht lo3Bericht = bf.getBericht(lg01);
if (lo3Bericht instanceof OngeldigBericht) {
foutMelder.log(LogSeverity.ERROR, "Ongeldig bericht", ((OngeldigBericht) lo3Bericht).getMelding());
} else if (lo3Bericht instanceof OnbekendBericht) {
foutMelder.log(LogSeverity.ERROR, "Obekend bericht", ((OnbekendBericht) lo3Bericht).getMelding());
} else {
return ((Lg01Bericht) lo3Bericht).getLo3Persoonslijst();
}
}
return null;
}
}
|
213196_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.1/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 556 | /**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit<SUF>*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213196_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.1/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 556 | /**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met<SUF>*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213196_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.1/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 556 | /**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met<SUF>*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213196_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.1/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 556 | /**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate en Jibx
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met<SUF>*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213197_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 553 | /**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit<SUF>*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213197_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 553 | /**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met<SUF>*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213197_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 553 | /**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met<SUF>*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213197_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.3/model/src/main/java/nl/bzk/brp/model/attribuuttype/Burgerservicenummer.java | 553 | /**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.attribuuttype;
import javax.persistence.Embeddable;
import nl.bzk.brp.model.basis.AbstractGegevensAttribuutType;
import nl.bzk.brp.model.basis.SoortNull;
/**
* Burgerservicenummer.
*/
@Embeddable
public final class Burgerservicenummer extends AbstractGegevensAttribuutType<String> {
/**
* Private constructor t.b.v. Hibernate.
*/
private Burgerservicenummer() {
super(null);
}
/**
* De (op dit moment) enige constructor voor deze immutable class.
* @param waarde de waarde
*/
public Burgerservicenummer(final String waarde) {
super(waarde);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek) {
super(waarde, inOnderzoek);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
public Burgerservicenummer(final String waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde, inOnderzoek, soortNull);
}
/**
* Ondersteunend constructor met<SUF>*/
public Burgerservicenummer(final String waarde, final SoortNull soortNull) {
super(waarde, false, soortNull);
}
}
|
213198_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.2/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 788 | /**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle<SUF>*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213198_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.2/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 788 | /**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit<SUF>*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213198_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.2/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 788 | /**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met<SUF>*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213198_4 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.1.6.2/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 788 | /**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 2 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek) {
this(waarde, inOnderzoek, null);
}
/**
* Ondersteunend constructor met<SUF>*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213199_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
/**
* Package voor alle ondersteunende klasses voor de generatoren die XSD's genereren.
*/
package nl.bzk.brp.generatoren.xsd.util;
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/generatie/generatoren/xsd-generatoren/src/main/java/nl/bzk/brp/generatoren/xsd/util/package-info.java | 131 | /**
* Package voor alle ondersteunende klasses voor de generatoren die XSD's genereren.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
/**
* Package voor alle<SUF>*/
package nl.bzk.brp.generatoren.xsd.util;
|
213200_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.2.4/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 706 | /**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle<SUF>*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213200_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.2.4/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 706 | /**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit<SUF>*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213200_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/BRP/tags/v0.2.4/model/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 706 | /**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met<SUF>*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213201_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import com.fasterxml.jackson.annotation.JsonCreator;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
@JsonCreator
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 729 | /**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import com.fasterxml.jackson.annotation.JsonCreator;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle<SUF>*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
@JsonCreator
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213201_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import com.fasterxml.jackson.annotation.JsonCreator;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
@JsonCreator
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 729 | /**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import com.fasterxml.jackson.annotation.JsonCreator;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit<SUF>*/
@JsonCreator
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213201_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import com.fasterxml.jackson.annotation.JsonCreator;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
@JsonCreator
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
| MinBZK/OperatieBRP | 2013/brp 2013-02-07/algemeen/model/trunk/src/main/java/nl/bzk/brp/model/basis/AbstractGegevensAttribuutType.java | 729 | /**
* Ondersteunend constructor met 3 parameters.
* @param waarde de waarde
* @param inOnderzoek attribbut is in onderzoek
* @param soortNull welk type null is dit.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.model.basis;
import com.fasterxml.jackson.annotation.JsonCreator;
import javax.persistence.Access;
import javax.persistence.AccessType;
import javax.persistence.MappedSuperclass;
import javax.persistence.Transient;
import org.apache.commons.lang.builder.HashCodeBuilder;
/**
* Type voor alle gegevensattributen die eventueel in onderzoek kunnen staan of een null waarde kunnen hebben.
* @param <T> Basis type van het attribuut.
*/
@MappedSuperclass
@Access(AccessType.FIELD)
public abstract class AbstractGegevensAttribuutType<T> extends AbstractAttribuutType<T> implements Nullable,
Onderzoekbaar
{
@Transient
private boolean inOnderzoek;
@Transient
private SoortNull soortNull;
/**
* De (op dit moment) enige constructor voor de immutable AttribuutType classen.
* @param waarde de waarde
*/
@JsonCreator
protected AbstractGegevensAttribuutType(final T waarde) {
this(waarde, false, null);
}
/**
* Ondersteunend constructor met<SUF>*/
protected AbstractGegevensAttribuutType(final T waarde, final boolean inOnderzoek, final SoortNull soortNull) {
super(waarde);
this.inOnderzoek = inOnderzoek;
this.soortNull = soortNull;
}
@Override
public boolean isInOnderzoek() {
return inOnderzoek;
}
@Override
public SoortNull getNullWaarde() {
return soortNull;
}
@Override
public boolean equals(final Object object) {
boolean retval = super.equals(object);
if (retval) {
@SuppressWarnings("unchecked")
final AbstractGegevensAttribuutType<T> that = (AbstractGegevensAttribuutType<T>) object;
retval = (isEqual(this.inOnderzoek, that.inOnderzoek) && isEqual(this.soortNull, that.soortNull));
}
return retval;
}
@Override
protected HashCodeBuilder getHashCodeBuilder() {
return super.getHashCodeBuilder()
.append(inOnderzoek)
.append(soortNull);
}
@Override
public int hashCode() {
return getHashCodeBuilder().toHashCode();
}
}
|
213202_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.migratiebrp.bericht.model.xml;
/**
* Ondersteunende class om teletex strings te coderen en decoderen om ze in XML te kunnen gebruiken. Dit ivm het feit
* dat in XML de meeste control characters (0x00 t/m 0x1F) niet zijn toegestaan, ook niet als entity encoding of cdata.
*
* De control characters worden gecodeerd als unicode characters 0x1000 t/m 0x101F.
*/
public final class XmlTeletexEncoding {
private static final char MAX_CONTROL_CHARACTER = 0x1F;
private static final char ENCODING_OFFSET = 0x1000;
private static final int EXTRA_ENCODING_BUFFER = 10;
private XmlTeletexEncoding() {
}
/**
* Codeer een teletex string voor XML.
*
* @param teletex
* de teletex string
* @return de gecodeerde teletex string
*/
public static String codeer(final String teletex) {
if (teletex == null) {
return null;
}
final int lengte = teletex.length();
final StringBuilder sb = new StringBuilder(lengte + EXTRA_ENCODING_BUFFER);
for (int index = 0; index < lengte; index++) {
final char c = teletex.charAt(index);
if (c <= MAX_CONTROL_CHARACTER) {
sb.append((char) (c + ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
/**
* Decodeer een teletex string uit XML.
*
* @param encodedTeletex
* de gecodeerde teletex string
* @return de teletex string
*/
public static String decodeer(final String encodedTeletex) {
if (encodedTeletex == null) {
return null;
}
final int lengte = encodedTeletex.length();
final StringBuilder sb = new StringBuilder(lengte);
for (int index = 0; index < lengte; index++) {
final char c = encodedTeletex.charAt(index);
if (c >= ENCODING_OFFSET && c <= ENCODING_OFFSET + MAX_CONTROL_CHARACTER) {
sb.append((char) (c - ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
}
| MinBZK/OperatieBRP | 2016/migratie 2016-02-09/migr-bericht-model/src/main/java/nl/bzk/migratiebrp/bericht/model/xml/XmlTeletexEncoding.java | 711 | /**
* Ondersteunende class om teletex strings te coderen en decoderen om ze in XML te kunnen gebruiken. Dit ivm het feit
* dat in XML de meeste control characters (0x00 t/m 0x1F) niet zijn toegestaan, ook niet als entity encoding of cdata.
*
* De control characters worden gecodeerd als unicode characters 0x1000 t/m 0x101F.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.migratiebrp.bericht.model.xml;
/**
* Ondersteunende class om<SUF>*/
public final class XmlTeletexEncoding {
private static final char MAX_CONTROL_CHARACTER = 0x1F;
private static final char ENCODING_OFFSET = 0x1000;
private static final int EXTRA_ENCODING_BUFFER = 10;
private XmlTeletexEncoding() {
}
/**
* Codeer een teletex string voor XML.
*
* @param teletex
* de teletex string
* @return de gecodeerde teletex string
*/
public static String codeer(final String teletex) {
if (teletex == null) {
return null;
}
final int lengte = teletex.length();
final StringBuilder sb = new StringBuilder(lengte + EXTRA_ENCODING_BUFFER);
for (int index = 0; index < lengte; index++) {
final char c = teletex.charAt(index);
if (c <= MAX_CONTROL_CHARACTER) {
sb.append((char) (c + ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
/**
* Decodeer een teletex string uit XML.
*
* @param encodedTeletex
* de gecodeerde teletex string
* @return de teletex string
*/
public static String decodeer(final String encodedTeletex) {
if (encodedTeletex == null) {
return null;
}
final int lengte = encodedTeletex.length();
final StringBuilder sb = new StringBuilder(lengte);
for (int index = 0; index < lengte; index++) {
final char c = encodedTeletex.charAt(index);
if (c >= ENCODING_OFFSET && c <= ENCODING_OFFSET + MAX_CONTROL_CHARACTER) {
sb.append((char) (c - ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
}
|
213202_2 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.migratiebrp.bericht.model.xml;
/**
* Ondersteunende class om teletex strings te coderen en decoderen om ze in XML te kunnen gebruiken. Dit ivm het feit
* dat in XML de meeste control characters (0x00 t/m 0x1F) niet zijn toegestaan, ook niet als entity encoding of cdata.
*
* De control characters worden gecodeerd als unicode characters 0x1000 t/m 0x101F.
*/
public final class XmlTeletexEncoding {
private static final char MAX_CONTROL_CHARACTER = 0x1F;
private static final char ENCODING_OFFSET = 0x1000;
private static final int EXTRA_ENCODING_BUFFER = 10;
private XmlTeletexEncoding() {
}
/**
* Codeer een teletex string voor XML.
*
* @param teletex
* de teletex string
* @return de gecodeerde teletex string
*/
public static String codeer(final String teletex) {
if (teletex == null) {
return null;
}
final int lengte = teletex.length();
final StringBuilder sb = new StringBuilder(lengte + EXTRA_ENCODING_BUFFER);
for (int index = 0; index < lengte; index++) {
final char c = teletex.charAt(index);
if (c <= MAX_CONTROL_CHARACTER) {
sb.append((char) (c + ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
/**
* Decodeer een teletex string uit XML.
*
* @param encodedTeletex
* de gecodeerde teletex string
* @return de teletex string
*/
public static String decodeer(final String encodedTeletex) {
if (encodedTeletex == null) {
return null;
}
final int lengte = encodedTeletex.length();
final StringBuilder sb = new StringBuilder(lengte);
for (int index = 0; index < lengte; index++) {
final char c = encodedTeletex.charAt(index);
if (c >= ENCODING_OFFSET && c <= ENCODING_OFFSET + MAX_CONTROL_CHARACTER) {
sb.append((char) (c - ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
}
| MinBZK/OperatieBRP | 2016/migratie 2016-02-09/migr-bericht-model/src/main/java/nl/bzk/migratiebrp/bericht/model/xml/XmlTeletexEncoding.java | 711 | /**
* Codeer een teletex string voor XML.
*
* @param teletex
* de teletex string
* @return de gecodeerde teletex string
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.migratiebrp.bericht.model.xml;
/**
* Ondersteunende class om teletex strings te coderen en decoderen om ze in XML te kunnen gebruiken. Dit ivm het feit
* dat in XML de meeste control characters (0x00 t/m 0x1F) niet zijn toegestaan, ook niet als entity encoding of cdata.
*
* De control characters worden gecodeerd als unicode characters 0x1000 t/m 0x101F.
*/
public final class XmlTeletexEncoding {
private static final char MAX_CONTROL_CHARACTER = 0x1F;
private static final char ENCODING_OFFSET = 0x1000;
private static final int EXTRA_ENCODING_BUFFER = 10;
private XmlTeletexEncoding() {
}
/**
* Codeer een teletex<SUF>*/
public static String codeer(final String teletex) {
if (teletex == null) {
return null;
}
final int lengte = teletex.length();
final StringBuilder sb = new StringBuilder(lengte + EXTRA_ENCODING_BUFFER);
for (int index = 0; index < lengte; index++) {
final char c = teletex.charAt(index);
if (c <= MAX_CONTROL_CHARACTER) {
sb.append((char) (c + ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
/**
* Decodeer een teletex string uit XML.
*
* @param encodedTeletex
* de gecodeerde teletex string
* @return de teletex string
*/
public static String decodeer(final String encodedTeletex) {
if (encodedTeletex == null) {
return null;
}
final int lengte = encodedTeletex.length();
final StringBuilder sb = new StringBuilder(lengte);
for (int index = 0; index < lengte; index++) {
final char c = encodedTeletex.charAt(index);
if (c >= ENCODING_OFFSET && c <= ENCODING_OFFSET + MAX_CONTROL_CHARACTER) {
sb.append((char) (c - ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
}
|
213202_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.migratiebrp.bericht.model.xml;
/**
* Ondersteunende class om teletex strings te coderen en decoderen om ze in XML te kunnen gebruiken. Dit ivm het feit
* dat in XML de meeste control characters (0x00 t/m 0x1F) niet zijn toegestaan, ook niet als entity encoding of cdata.
*
* De control characters worden gecodeerd als unicode characters 0x1000 t/m 0x101F.
*/
public final class XmlTeletexEncoding {
private static final char MAX_CONTROL_CHARACTER = 0x1F;
private static final char ENCODING_OFFSET = 0x1000;
private static final int EXTRA_ENCODING_BUFFER = 10;
private XmlTeletexEncoding() {
}
/**
* Codeer een teletex string voor XML.
*
* @param teletex
* de teletex string
* @return de gecodeerde teletex string
*/
public static String codeer(final String teletex) {
if (teletex == null) {
return null;
}
final int lengte = teletex.length();
final StringBuilder sb = new StringBuilder(lengte + EXTRA_ENCODING_BUFFER);
for (int index = 0; index < lengte; index++) {
final char c = teletex.charAt(index);
if (c <= MAX_CONTROL_CHARACTER) {
sb.append((char) (c + ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
/**
* Decodeer een teletex string uit XML.
*
* @param encodedTeletex
* de gecodeerde teletex string
* @return de teletex string
*/
public static String decodeer(final String encodedTeletex) {
if (encodedTeletex == null) {
return null;
}
final int lengte = encodedTeletex.length();
final StringBuilder sb = new StringBuilder(lengte);
for (int index = 0; index < lengte; index++) {
final char c = encodedTeletex.charAt(index);
if (c >= ENCODING_OFFSET && c <= ENCODING_OFFSET + MAX_CONTROL_CHARACTER) {
sb.append((char) (c - ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
}
| MinBZK/OperatieBRP | 2016/migratie 2016-02-09/migr-bericht-model/src/main/java/nl/bzk/migratiebrp/bericht/model/xml/XmlTeletexEncoding.java | 711 | /**
* Decodeer een teletex string uit XML.
*
* @param encodedTeletex
* de gecodeerde teletex string
* @return de teletex string
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.migratiebrp.bericht.model.xml;
/**
* Ondersteunende class om teletex strings te coderen en decoderen om ze in XML te kunnen gebruiken. Dit ivm het feit
* dat in XML de meeste control characters (0x00 t/m 0x1F) niet zijn toegestaan, ook niet als entity encoding of cdata.
*
* De control characters worden gecodeerd als unicode characters 0x1000 t/m 0x101F.
*/
public final class XmlTeletexEncoding {
private static final char MAX_CONTROL_CHARACTER = 0x1F;
private static final char ENCODING_OFFSET = 0x1000;
private static final int EXTRA_ENCODING_BUFFER = 10;
private XmlTeletexEncoding() {
}
/**
* Codeer een teletex string voor XML.
*
* @param teletex
* de teletex string
* @return de gecodeerde teletex string
*/
public static String codeer(final String teletex) {
if (teletex == null) {
return null;
}
final int lengte = teletex.length();
final StringBuilder sb = new StringBuilder(lengte + EXTRA_ENCODING_BUFFER);
for (int index = 0; index < lengte; index++) {
final char c = teletex.charAt(index);
if (c <= MAX_CONTROL_CHARACTER) {
sb.append((char) (c + ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
/**
* Decodeer een teletex<SUF>*/
public static String decodeer(final String encodedTeletex) {
if (encodedTeletex == null) {
return null;
}
final int lengte = encodedTeletex.length();
final StringBuilder sb = new StringBuilder(lengte);
for (int index = 0; index < lengte; index++) {
final char c = encodedTeletex.charAt(index);
if (c >= ENCODING_OFFSET && c <= ENCODING_OFFSET + MAX_CONTROL_CHARACTER) {
sb.append((char) (c - ENCODING_OFFSET));
} else {
sb.append(c);
}
}
return sb.toString();
}
}
|
213203_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
/**
* Ondersteunende klassen voor de DAL implementatie klassen.
*
* @since 1.0
*/
package nl.bzk.migratiebrp.synchronisatie.dal.repository.util;
| MinBZK/OperatieBRP | 2016/migratie 2016-02-09/migr-synchronisatie-dal/src/main/java/nl/bzk/migratiebrp/synchronisatie/dal/repository/util/package-info.java | 139 | /**
* Ondersteunende klassen voor de DAL implementatie klassen.
*
* @since 1.0
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
/**
* Ondersteunende klassen voor<SUF>*/
package nl.bzk.migratiebrp.synchronisatie.dal.repository.util;
|
213556_3 | /*
* Copyright (C) 2009 The Guava Authors
*
* Licensed under the Apache License, Version 2.0 (the "License");
* you may not use this file except in compliance with the License.
* You may obtain a copy of the License at
*
* http://www.apache.org/licenses/LICENSE-2.0
*
* Unless required by applicable law or agreed to in writing, software
* distributed under the License is distributed on an "AS IS" BASIS,
* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
* See the License for the specific language governing permissions and
* limitations under the License.
*/
package com.google.common.collect;
import static com.google.common.base.Preconditions.checkNotNull;
import com.google.common.annotations.GwtCompatible;
import com.google.common.annotations.GwtIncompatible;
import com.google.common.annotations.J2ktIncompatible;
import com.google.common.annotations.VisibleForTesting;
import java.util.Collection;
import java.util.Collections;
import java.util.Comparator;
import java.util.Iterator;
import java.util.NoSuchElementException;
import java.util.Set;
import javax.annotation.CheckForNull;
import org.checkerframework.checker.nullness.qual.Nullable;
/**
* An immutable sorted set with one or more elements. TODO(jlevy): Consider separate class for a
* single-element sorted set.
*
* @author Jared Levy
* @author Louis Wasserman
*/
@GwtCompatible(serializable = true, emulated = true)
@SuppressWarnings({"serial", "rawtypes"})
@ElementTypesAreNonnullByDefault
final class RegularImmutableSortedSet<E> extends ImmutableSortedSet<E> {
static final RegularImmutableSortedSet<Comparable> NATURAL_EMPTY_SET =
new RegularImmutableSortedSet<>(ImmutableList.<Comparable>of(), Ordering.natural());
@VisibleForTesting final transient ImmutableList<E> elements;
RegularImmutableSortedSet(ImmutableList<E> elements, Comparator<? super E> comparator) {
super(comparator);
this.elements = elements;
}
@Override
@CheckForNull
@Nullable
Object[] internalArray() {
return elements.internalArray();
}
@Override
int internalArrayStart() {
return elements.internalArrayStart();
}
@Override
int internalArrayEnd() {
return elements.internalArrayEnd();
}
@Override
public UnmodifiableIterator<E> iterator() {
return elements.iterator();
}
@GwtIncompatible // NavigableSet
@Override
public UnmodifiableIterator<E> descendingIterator() {
return elements.reverse().iterator();
}
@Override
public int size() {
return elements.size();
}
@Override
public boolean contains(@CheckForNull Object o) {
try {
return o != null && unsafeBinarySearch(o) >= 0;
} catch (ClassCastException e) {
return false;
}
}
@Override
public boolean containsAll(Collection<?> targets) {
// TODO(jlevy): For optimal performance, use a binary search when
// targets.size() < size() / log(size())
// TODO(kevinb): see if we can share code with OrderedIterator after it
// graduates from labs.
if (targets instanceof Multiset) {
targets = ((Multiset<?>) targets).elementSet();
}
if (!SortedIterables.hasSameComparator(comparator(), targets) || (targets.size() <= 1)) {
return super.containsAll(targets);
}
/*
* If targets is a sorted set with the same comparator, containsAll can run
* in O(n) time stepping through the two collections.
*/
Iterator<E> thisIterator = iterator();
Iterator<?> thatIterator = targets.iterator();
// known nonempty since we checked targets.size() > 1
if (!thisIterator.hasNext()) {
return false;
}
Object target = thatIterator.next();
E current = thisIterator.next();
try {
while (true) {
int cmp = unsafeCompare(current, target);
if (cmp < 0) {
if (!thisIterator.hasNext()) {
return false;
}
current = thisIterator.next();
} else if (cmp == 0) {
if (!thatIterator.hasNext()) {
return true;
}
target = thatIterator.next();
} else if (cmp > 0) {
return false;
}
}
} catch (NullPointerException | ClassCastException e) {
return false;
}
}
private int unsafeBinarySearch(Object key) throws ClassCastException {
return Collections.binarySearch(elements, key, unsafeComparator());
}
@Override
boolean isPartialView() {
return elements.isPartialView();
}
@Override
int copyIntoArray(@Nullable Object[] dst, int offset) {
return elements.copyIntoArray(dst, offset);
}
@Override
public boolean equals(@CheckForNull Object object) {
if (object == this) {
return true;
}
if (!(object instanceof Set)) {
return false;
}
Set<?> that = (Set<?>) object;
if (size() != that.size()) {
return false;
} else if (isEmpty()) {
return true;
}
if (SortedIterables.hasSameComparator(comparator, that)) {
Iterator<?> otherIterator = that.iterator();
try {
Iterator<E> iterator = iterator();
while (iterator.hasNext()) {
Object element = iterator.next();
Object otherElement = otherIterator.next();
if (otherElement == null || unsafeCompare(element, otherElement) != 0) {
return false;
}
}
return true;
} catch (ClassCastException e) {
return false;
} catch (NoSuchElementException e) {
return false; // concurrent change to other set
}
}
return containsAll(that);
}
@Override
public E first() {
if (isEmpty()) {
throw new NoSuchElementException();
}
return elements.get(0);
}
@Override
public E last() {
if (isEmpty()) {
throw new NoSuchElementException();
}
return elements.get(size() - 1);
}
@Override
@CheckForNull
public E lower(E element) {
int index = headIndex(element, false) - 1;
return (index == -1) ? null : elements.get(index);
}
@Override
@CheckForNull
public E floor(E element) {
int index = headIndex(element, true) - 1;
return (index == -1) ? null : elements.get(index);
}
@Override
@CheckForNull
public E ceiling(E element) {
int index = tailIndex(element, true);
return (index == size()) ? null : elements.get(index);
}
@Override
@CheckForNull
public E higher(E element) {
int index = tailIndex(element, false);
return (index == size()) ? null : elements.get(index);
}
@Override
ImmutableSortedSet<E> headSetImpl(E toElement, boolean inclusive) {
return getSubSet(0, headIndex(toElement, inclusive));
}
int headIndex(E toElement, boolean inclusive) {
int index = Collections.binarySearch(elements, checkNotNull(toElement), comparator());
if (index >= 0) {
return inclusive ? index + 1 : index;
} else {
return ~index;
}
}
@Override
ImmutableSortedSet<E> subSetImpl(
E fromElement, boolean fromInclusive, E toElement, boolean toInclusive) {
return tailSetImpl(fromElement, fromInclusive).headSetImpl(toElement, toInclusive);
}
@Override
ImmutableSortedSet<E> tailSetImpl(E fromElement, boolean inclusive) {
return getSubSet(tailIndex(fromElement, inclusive), size());
}
int tailIndex(E fromElement, boolean inclusive) {
int index = Collections.binarySearch(elements, checkNotNull(fromElement), comparator());
if (index >= 0) {
return inclusive ? index : index + 1;
} else {
return ~index;
}
}
// Pretend the comparator can compare anything. If it turns out it can't
// compare two elements, it'll throw a CCE. Only methods that are specified to
// throw CCE should call this.
@SuppressWarnings("unchecked")
Comparator<Object> unsafeComparator() {
return (Comparator<Object>) comparator;
}
RegularImmutableSortedSet<E> getSubSet(int newFromIndex, int newToIndex) {
if (newFromIndex == 0 && newToIndex == size()) {
return this;
} else if (newFromIndex < newToIndex) {
return new RegularImmutableSortedSet<>(
elements.subList(newFromIndex, newToIndex), comparator);
} else {
return emptySet(comparator);
}
}
@Override
int indexOf(@CheckForNull Object target) {
if (target == null) {
return -1;
}
int position;
try {
position = Collections.binarySearch(elements, target, unsafeComparator());
} catch (ClassCastException e) {
return -1;
}
return (position >= 0) ? position : -1;
}
@Override
public ImmutableList<E> asList() {
return elements;
}
@Override
ImmutableSortedSet<E> createDescendingSet() {
Comparator<? super E> reversedOrder = Collections.reverseOrder(comparator);
return isEmpty()
? emptySet(reversedOrder)
: new RegularImmutableSortedSet<E>(elements.reverse(), reversedOrder);
}
// redeclare to help optimizers with b/310253115
@SuppressWarnings("RedundantOverride")
@Override
@J2ktIncompatible // serialization
@GwtIncompatible // serialization
Object writeReplace() {
return super.writeReplace();
}
}
| google/guava | android/guava/src/com/google/common/collect/RegularImmutableSortedSet.java | 2,514 | // targets.size() < size() / log(size()) | line_comment | nl | /*
* Copyright (C) 2009 The Guava Authors
*
* Licensed under the Apache License, Version 2.0 (the "License");
* you may not use this file except in compliance with the License.
* You may obtain a copy of the License at
*
* http://www.apache.org/licenses/LICENSE-2.0
*
* Unless required by applicable law or agreed to in writing, software
* distributed under the License is distributed on an "AS IS" BASIS,
* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
* See the License for the specific language governing permissions and
* limitations under the License.
*/
package com.google.common.collect;
import static com.google.common.base.Preconditions.checkNotNull;
import com.google.common.annotations.GwtCompatible;
import com.google.common.annotations.GwtIncompatible;
import com.google.common.annotations.J2ktIncompatible;
import com.google.common.annotations.VisibleForTesting;
import java.util.Collection;
import java.util.Collections;
import java.util.Comparator;
import java.util.Iterator;
import java.util.NoSuchElementException;
import java.util.Set;
import javax.annotation.CheckForNull;
import org.checkerframework.checker.nullness.qual.Nullable;
/**
* An immutable sorted set with one or more elements. TODO(jlevy): Consider separate class for a
* single-element sorted set.
*
* @author Jared Levy
* @author Louis Wasserman
*/
@GwtCompatible(serializable = true, emulated = true)
@SuppressWarnings({"serial", "rawtypes"})
@ElementTypesAreNonnullByDefault
final class RegularImmutableSortedSet<E> extends ImmutableSortedSet<E> {
static final RegularImmutableSortedSet<Comparable> NATURAL_EMPTY_SET =
new RegularImmutableSortedSet<>(ImmutableList.<Comparable>of(), Ordering.natural());
@VisibleForTesting final transient ImmutableList<E> elements;
RegularImmutableSortedSet(ImmutableList<E> elements, Comparator<? super E> comparator) {
super(comparator);
this.elements = elements;
}
@Override
@CheckForNull
@Nullable
Object[] internalArray() {
return elements.internalArray();
}
@Override
int internalArrayStart() {
return elements.internalArrayStart();
}
@Override
int internalArrayEnd() {
return elements.internalArrayEnd();
}
@Override
public UnmodifiableIterator<E> iterator() {
return elements.iterator();
}
@GwtIncompatible // NavigableSet
@Override
public UnmodifiableIterator<E> descendingIterator() {
return elements.reverse().iterator();
}
@Override
public int size() {
return elements.size();
}
@Override
public boolean contains(@CheckForNull Object o) {
try {
return o != null && unsafeBinarySearch(o) >= 0;
} catch (ClassCastException e) {
return false;
}
}
@Override
public boolean containsAll(Collection<?> targets) {
// TODO(jlevy): For optimal performance, use a binary search when
// targets.size() <<SUF>
// TODO(kevinb): see if we can share code with OrderedIterator after it
// graduates from labs.
if (targets instanceof Multiset) {
targets = ((Multiset<?>) targets).elementSet();
}
if (!SortedIterables.hasSameComparator(comparator(), targets) || (targets.size() <= 1)) {
return super.containsAll(targets);
}
/*
* If targets is a sorted set with the same comparator, containsAll can run
* in O(n) time stepping through the two collections.
*/
Iterator<E> thisIterator = iterator();
Iterator<?> thatIterator = targets.iterator();
// known nonempty since we checked targets.size() > 1
if (!thisIterator.hasNext()) {
return false;
}
Object target = thatIterator.next();
E current = thisIterator.next();
try {
while (true) {
int cmp = unsafeCompare(current, target);
if (cmp < 0) {
if (!thisIterator.hasNext()) {
return false;
}
current = thisIterator.next();
} else if (cmp == 0) {
if (!thatIterator.hasNext()) {
return true;
}
target = thatIterator.next();
} else if (cmp > 0) {
return false;
}
}
} catch (NullPointerException | ClassCastException e) {
return false;
}
}
private int unsafeBinarySearch(Object key) throws ClassCastException {
return Collections.binarySearch(elements, key, unsafeComparator());
}
@Override
boolean isPartialView() {
return elements.isPartialView();
}
@Override
int copyIntoArray(@Nullable Object[] dst, int offset) {
return elements.copyIntoArray(dst, offset);
}
@Override
public boolean equals(@CheckForNull Object object) {
if (object == this) {
return true;
}
if (!(object instanceof Set)) {
return false;
}
Set<?> that = (Set<?>) object;
if (size() != that.size()) {
return false;
} else if (isEmpty()) {
return true;
}
if (SortedIterables.hasSameComparator(comparator, that)) {
Iterator<?> otherIterator = that.iterator();
try {
Iterator<E> iterator = iterator();
while (iterator.hasNext()) {
Object element = iterator.next();
Object otherElement = otherIterator.next();
if (otherElement == null || unsafeCompare(element, otherElement) != 0) {
return false;
}
}
return true;
} catch (ClassCastException e) {
return false;
} catch (NoSuchElementException e) {
return false; // concurrent change to other set
}
}
return containsAll(that);
}
@Override
public E first() {
if (isEmpty()) {
throw new NoSuchElementException();
}
return elements.get(0);
}
@Override
public E last() {
if (isEmpty()) {
throw new NoSuchElementException();
}
return elements.get(size() - 1);
}
@Override
@CheckForNull
public E lower(E element) {
int index = headIndex(element, false) - 1;
return (index == -1) ? null : elements.get(index);
}
@Override
@CheckForNull
public E floor(E element) {
int index = headIndex(element, true) - 1;
return (index == -1) ? null : elements.get(index);
}
@Override
@CheckForNull
public E ceiling(E element) {
int index = tailIndex(element, true);
return (index == size()) ? null : elements.get(index);
}
@Override
@CheckForNull
public E higher(E element) {
int index = tailIndex(element, false);
return (index == size()) ? null : elements.get(index);
}
@Override
ImmutableSortedSet<E> headSetImpl(E toElement, boolean inclusive) {
return getSubSet(0, headIndex(toElement, inclusive));
}
int headIndex(E toElement, boolean inclusive) {
int index = Collections.binarySearch(elements, checkNotNull(toElement), comparator());
if (index >= 0) {
return inclusive ? index + 1 : index;
} else {
return ~index;
}
}
@Override
ImmutableSortedSet<E> subSetImpl(
E fromElement, boolean fromInclusive, E toElement, boolean toInclusive) {
return tailSetImpl(fromElement, fromInclusive).headSetImpl(toElement, toInclusive);
}
@Override
ImmutableSortedSet<E> tailSetImpl(E fromElement, boolean inclusive) {
return getSubSet(tailIndex(fromElement, inclusive), size());
}
int tailIndex(E fromElement, boolean inclusive) {
int index = Collections.binarySearch(elements, checkNotNull(fromElement), comparator());
if (index >= 0) {
return inclusive ? index : index + 1;
} else {
return ~index;
}
}
// Pretend the comparator can compare anything. If it turns out it can't
// compare two elements, it'll throw a CCE. Only methods that are specified to
// throw CCE should call this.
@SuppressWarnings("unchecked")
Comparator<Object> unsafeComparator() {
return (Comparator<Object>) comparator;
}
RegularImmutableSortedSet<E> getSubSet(int newFromIndex, int newToIndex) {
if (newFromIndex == 0 && newToIndex == size()) {
return this;
} else if (newFromIndex < newToIndex) {
return new RegularImmutableSortedSet<>(
elements.subList(newFromIndex, newToIndex), comparator);
} else {
return emptySet(comparator);
}
}
@Override
int indexOf(@CheckForNull Object target) {
if (target == null) {
return -1;
}
int position;
try {
position = Collections.binarySearch(elements, target, unsafeComparator());
} catch (ClassCastException e) {
return -1;
}
return (position >= 0) ? position : -1;
}
@Override
public ImmutableList<E> asList() {
return elements;
}
@Override
ImmutableSortedSet<E> createDescendingSet() {
Comparator<? super E> reversedOrder = Collections.reverseOrder(comparator);
return isEmpty()
? emptySet(reversedOrder)
: new RegularImmutableSortedSet<E>(elements.reverse(), reversedOrder);
}
// redeclare to help optimizers with b/310253115
@SuppressWarnings("RedundantOverride")
@Override
@J2ktIncompatible // serialization
@GwtIncompatible // serialization
Object writeReplace() {
return super.writeReplace();
}
}
|
213630_0 | package nl.hu.sd.inno.badaggregate.registrations;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
@RestController
public class QuestionController {
private QuestionService questionService;
private RegistrationService registrationService;
public QuestionController(QuestionService questionService, RegistrationService registrationService) {
this.questionService = questionService;
this.registrationService = registrationService;
}
@GetMapping("/registration/{id}/questions/")
public List<Question> getQuestions(@PathVariable("id") String registrationId,
@RequestParam(value = "page", required = true) int page,
@RequestParam(value = "lang", required = true) String lang) {
List<Question> questions = this.questionService.getQuestions(registrationId, page, lang);
// Deze regel ontcommenten, en dan zie je hoe JPA/Hibernate soms een best lekke abstractie is.
// Let op: m'n punt is niet "Stoute JPA!", maar dat je vaak best een diep conceptueel begrip van je libraries
// nodig hebt om redelijkerwijs een probleem te debuggen.
// this.registrationService.markPage(registrationId, page);
return questions;
}
}
| HU-Inno-SD/demos | nosql/badaggregate/src/main/java/nl/hu/sd/inno/badaggregate/registrations/QuestionController.java | 336 | // Deze regel ontcommenten, en dan zie je hoe JPA/Hibernate soms een best lekke abstractie is. | line_comment | nl | package nl.hu.sd.inno.badaggregate.registrations;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
@RestController
public class QuestionController {
private QuestionService questionService;
private RegistrationService registrationService;
public QuestionController(QuestionService questionService, RegistrationService registrationService) {
this.questionService = questionService;
this.registrationService = registrationService;
}
@GetMapping("/registration/{id}/questions/")
public List<Question> getQuestions(@PathVariable("id") String registrationId,
@RequestParam(value = "page", required = true) int page,
@RequestParam(value = "lang", required = true) String lang) {
List<Question> questions = this.questionService.getQuestions(registrationId, page, lang);
// Deze regel<SUF>
// Let op: m'n punt is niet "Stoute JPA!", maar dat je vaak best een diep conceptueel begrip van je libraries
// nodig hebt om redelijkerwijs een probleem te debuggen.
// this.registrationService.markPage(registrationId, page);
return questions;
}
}
|
213630_1 | package nl.hu.sd.inno.badaggregate.registrations;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
@RestController
public class QuestionController {
private QuestionService questionService;
private RegistrationService registrationService;
public QuestionController(QuestionService questionService, RegistrationService registrationService) {
this.questionService = questionService;
this.registrationService = registrationService;
}
@GetMapping("/registration/{id}/questions/")
public List<Question> getQuestions(@PathVariable("id") String registrationId,
@RequestParam(value = "page", required = true) int page,
@RequestParam(value = "lang", required = true) String lang) {
List<Question> questions = this.questionService.getQuestions(registrationId, page, lang);
// Deze regel ontcommenten, en dan zie je hoe JPA/Hibernate soms een best lekke abstractie is.
// Let op: m'n punt is niet "Stoute JPA!", maar dat je vaak best een diep conceptueel begrip van je libraries
// nodig hebt om redelijkerwijs een probleem te debuggen.
// this.registrationService.markPage(registrationId, page);
return questions;
}
}
| HU-Inno-SD/demos | nosql/badaggregate/src/main/java/nl/hu/sd/inno/badaggregate/registrations/QuestionController.java | 336 | // Let op: m'n punt is niet "Stoute JPA!", maar dat je vaak best een diep conceptueel begrip van je libraries | line_comment | nl | package nl.hu.sd.inno.badaggregate.registrations;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
@RestController
public class QuestionController {
private QuestionService questionService;
private RegistrationService registrationService;
public QuestionController(QuestionService questionService, RegistrationService registrationService) {
this.questionService = questionService;
this.registrationService = registrationService;
}
@GetMapping("/registration/{id}/questions/")
public List<Question> getQuestions(@PathVariable("id") String registrationId,
@RequestParam(value = "page", required = true) int page,
@RequestParam(value = "lang", required = true) String lang) {
List<Question> questions = this.questionService.getQuestions(registrationId, page, lang);
// Deze regel ontcommenten, en dan zie je hoe JPA/Hibernate soms een best lekke abstractie is.
// Let op:<SUF>
// nodig hebt om redelijkerwijs een probleem te debuggen.
// this.registrationService.markPage(registrationId, page);
return questions;
}
}
|
213630_2 | package nl.hu.sd.inno.badaggregate.registrations;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
@RestController
public class QuestionController {
private QuestionService questionService;
private RegistrationService registrationService;
public QuestionController(QuestionService questionService, RegistrationService registrationService) {
this.questionService = questionService;
this.registrationService = registrationService;
}
@GetMapping("/registration/{id}/questions/")
public List<Question> getQuestions(@PathVariable("id") String registrationId,
@RequestParam(value = "page", required = true) int page,
@RequestParam(value = "lang", required = true) String lang) {
List<Question> questions = this.questionService.getQuestions(registrationId, page, lang);
// Deze regel ontcommenten, en dan zie je hoe JPA/Hibernate soms een best lekke abstractie is.
// Let op: m'n punt is niet "Stoute JPA!", maar dat je vaak best een diep conceptueel begrip van je libraries
// nodig hebt om redelijkerwijs een probleem te debuggen.
// this.registrationService.markPage(registrationId, page);
return questions;
}
}
| HU-Inno-SD/demos | nosql/badaggregate/src/main/java/nl/hu/sd/inno/badaggregate/registrations/QuestionController.java | 336 | // nodig hebt om redelijkerwijs een probleem te debuggen. | line_comment | nl | package nl.hu.sd.inno.badaggregate.registrations;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
@RestController
public class QuestionController {
private QuestionService questionService;
private RegistrationService registrationService;
public QuestionController(QuestionService questionService, RegistrationService registrationService) {
this.questionService = questionService;
this.registrationService = registrationService;
}
@GetMapping("/registration/{id}/questions/")
public List<Question> getQuestions(@PathVariable("id") String registrationId,
@RequestParam(value = "page", required = true) int page,
@RequestParam(value = "lang", required = true) String lang) {
List<Question> questions = this.questionService.getQuestions(registrationId, page, lang);
// Deze regel ontcommenten, en dan zie je hoe JPA/Hibernate soms een best lekke abstractie is.
// Let op: m'n punt is niet "Stoute JPA!", maar dat je vaak best een diep conceptueel begrip van je libraries
// nodig hebt<SUF>
// this.registrationService.markPage(registrationId, page);
return questions;
}
}
|
213651_2 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // base tags moeten leeg zijn | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags<SUF>
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_3 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags<SUF>
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_4 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Afbeelding zijn source vervangen door een MD5 hash | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn<SUF>
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_6 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // CSS bestand zijn verwijziging vervangen door een MD5 hash | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand<SUF>
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_7 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Link toevoegen | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen<SUF>
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_9 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Indien het url niet start met http, https of ftp er het huidige url voorplakken | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het<SUF>
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_10 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/... | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het<SUF>
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_11 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Redelijk hacky, zou een betere oplossing voor moeten zijn | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky,<SUF>
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_13 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Haal de extensie uit het URL | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de<SUF>
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_14 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // We starten altijd met html | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten<SUF>
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_15 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535 | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een<SUF>
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_16 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // split op het vraagteken en gebruik de linker helft. | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op<SUF>
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213651_18 | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was.
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
| kidk/tin_scrapy | src/domein/DownloadThread.java | 3,378 | // op een / of \ wil het zeggen dat het url bijvoorbeeld http://www.google.com/nieuws/ was. | line_comment | nl | package domein;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStream;
import java.math.BigInteger;
import java.net.MalformedURLException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.URL;
import java.net.URLConnection;
import java.security.MessageDigest;
import java.util.ArrayList;
import java.util.List;
import java.util.logging.Level;
import java.util.logging.Logger;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
/**
*
* @author samuelvandamme
*/
public class DownloadThread implements Runnable {
private final Queue queue = Queue.getInstance();
private String website;
private String dir;
private int currentDepth;
private int maxDepth;
private List<Email> emailList = new ArrayList<Email>();
public String getDir() {
return dir;
}
public void setDir(String dir) {
this.dir = dir;
}
public String getWebsite() {
return website;
}
public void setWebsite(String website) {
this.website = website;
}
public int getCurrentDepth() {
return currentDepth;
}
public void setCurrentDepth(int depth) {
this.currentDepth = depth;
}
public int getMaxDepth() {
return maxDepth;
}
public void setMaxDepth(int depth) {
this.maxDepth = depth;
}
public DownloadThread() {
}
public DownloadThread(String website, String dir) {
this(website, dir, 0, 0);
}
public DownloadThread(String website, String dir, int currentDepth, int maxDepth) {
setWebsite(website);
setDir(dir);
setCurrentDepth(currentDepth);
setMaxDepth(maxDepth);
}
public void execute(Runnable r) {
synchronized (queue) {
if (!queue.contains(r)) {
queue.addLast(r);
System.out.println("Added " + getWebsite() + " to queue. (" + getDir() + ")");
}
queue.notify();
}
}
@Override
public void run() {
Document doc = null;
InputStream input = null;
URI uri = null;
// Debug
System.out.println("Fetching " + website);
String fileLok = dir + ((currentDepth > 0) ? getLocalFileName(getPathWithFilename(website)) : "index.html");
// Bestaat lokaal bestand
File bestand = new File(fileLok);
if (bestand.exists()) {
return;
}
// Bestand ophalen
try {
uri = new URI(website);
input = uri.toURL().openStream();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Type controleren
String type = getMimeType(website);
if (type.equals("text/html")) {
// HTML Parsen
try {
doc = Jsoup.parse(input, null, getBaseUrl(website));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, website + " niet afgehaald.", ex);
return;
}
// base tags moeten leeg zijn
doc.getElementsByTag("base").remove();
// Script tags leeg maken => krijgen veel te veel errors => soms blijven pagina's hangen hierdoor
doc.getElementsByTag("script").remove();
// Afbeeldingen
for (Element image : doc.getElementsByTag("img")) {
// Afbeelding ophalen
addToQueue(getPath(image.attr("src")));
// Afbeelding zijn source vervangen door een MD5 hash
image.attr("src", getLocalFileName(getPathWithFilename(image.attr("src"))));
}
// CSS bestanden
for (Element cssFile : doc.getElementsByTag("link")) {
if(cssFile.attr("rel").equals("stylesheet")) {
// CSS bestand ophalen
addToQueue(getPath(cssFile.attr("href")));
// CSS bestand zijn verwijziging vervangen door een MD5 hash
cssFile.attr("href", getLocalFileName(getPathWithFilename(cssFile.attr("href"))));
}
}
// Links overlopen
for (Element link : doc.getElementsByTag("a")) {
if (link.attr("href").contains("#") || link.attr("href").startsWith("ftp://")) {
continue;
}
// Link toevoegen
if (!(link.attr("href")).contains("mailto")) {
if(link.attr("href").equals(".")) {
link.attr("href", "index.html");
continue;
}
if(link.attr("href").startsWith("http") && isExternal(link.attr("href"), website))
{
addExternalLink(link.attr("href"));
}
else
{
if(maxDepth > 0 && currentDepth >= maxDepth)
continue;
addToQueue(getPath(link.attr("href")));
link.attr("href", getLocalFileName(getPathWithFilename(getPath(link.attr("href")))));
}
}
else if ((link.attr("href")).contains("mailto")) {
addEmail(link.attr("href").replace("mailto:", ""));
}
}
}
System.out.println("Save to " + bestand.getAbsolutePath());
createFile(bestand);
// Save
if (type.equals("text/html")) {
saveHtml(bestand, doc.html());
} else {
saveBinary(bestand, input);
}
// Close
try {
input.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void addToQueue(String url) {
execute(new DownloadThread(url, dir, currentDepth + 1, maxDepth));
}
public void createFile(File bestand) {
// Maak bestand en dir's aan
try {
if (bestand.getParentFile() != null) {
bestand.getParentFile().mkdirs();
}
System.out.println("Path " + bestand.getAbsolutePath());
bestand.createNewFile();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveHtml(File bestand, String html) {
// Open bestand
BufferedWriter output = null;
try {
output = new BufferedWriter(new FileWriter(bestand));
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
output.write(html);
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
// Close it
try {
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public void saveBinary(File bestand, InputStream input) {
FileOutputStream output = null;
try {
output = new FileOutputStream(bestand);
} catch (FileNotFoundException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
byte[] buffer = new byte[4096];
int bytesRead;
try {
while ((bytesRead = input.read(buffer)) != -1) {
output.write(buffer, 0, bytesRead);
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
input.close();
output.close();
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
}
public String getPath(String url) {
String result = "fail";
try {
// Indien het url niet start met http, https of ftp er het huidige url voorplakken
if(!url.startsWith("http") && !url.startsWith("https") && !url.startsWith("ftp"))
{
// Indien het url start met '/', eruithalen, anders krijgen we bijvoorbeeld http://www.hln.be//Page/14/01/2011/...
url = getBaseUrl(website) + (url.startsWith("/") ? url.substring(1) : url);
}
URI path = new URI(url.replace(" ", "%20")); // Redelijk hacky, zou een betere oplossing voor moeten zijn
result = path.toString();
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return result;
}
public String getPathWithFilename(String url) {
String result = getPath(url);
result = result.replace("http://", "");
if ((result.length() > 1 && result.charAt(result.length() - 1) == '/') || result.length() == 0) {
return dir + result + "index.html";
} else {
return dir + result;
}
}
public String getBaseUrl(String url) {
// Path ophalen
try {
URI path = new URI(url);
String host = "http://" + path.toURL().getHost();
return host.endsWith("/") ? host : (host + "/");
} catch (URISyntaxException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "fail";
}
public String getMimeType(String url) {
URL uri = null;
String result = "";
try {
uri = new URL(url);
} catch (MalformedURLException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
try {
result = ((URLConnection) uri.openConnection()).getContentType();
if (result.indexOf(";") != -1) {
return result.substring(0, result.indexOf(";"));
} else {
return result;
}
} catch (IOException ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
return "text/unknown";
}
}
private void addEmail(String mail) {
Email email = new Email(mail);
emailList.add(email);
System.out.println("Email found and added: " + email.getAddress());
}
private void addExternalLink(String link) {
ExternalLink elink = new ExternalLink(link);
System.out.println("External Link found and added. link: " + link);
}
public boolean isExternal(String attr, String website) {
URI check = null;
URI source = null;
try {
check = new URI(attr);
source = new URI(website);
} catch (URISyntaxException ex) {
return true;
}
if ( check.getHost().equals(source.getHost()))
return false;
return true;
}
public String getLocalFileName(String name)
{
try {
byte[] bytesOfMessage = name.getBytes("UTF-8");
MessageDigest md = MessageDigest.getInstance("MD5");
byte[] thedigest = md.digest(bytesOfMessage);
String extension = getExtension(name);
return new BigInteger(1,thedigest).toString(16) + ("".equals(extension) ? "" : "." + extension);
} catch (Exception ex) {
Logger.getLogger(DownloadThread.class.getName()).log(Level.SEVERE, null, ex);
}
return "0";
}
public String getExtension(String url)
{
// Haal de extensie uit het URL
// We starten altijd met html
String extension = "html";
// Indien een website gebruik maakt van ? in het url, bv, http://www.google.be/test.html?a=152&b=535
// split op het vraagteken en gebruik de linker helft.
url = url.split("\\?")[0];
if(url.contains(".")) {
int mid = url.lastIndexOf(".");
extension = url.substring(mid + 1, url.length());
// Enkele extensies willen we vervangen + indien het resultaat eindigt
// op een<SUF>
// De extensie is dan gewoon .html
if(extension.equals("php") || extension.equals("dhtml") || extension.equals("aspx") || extension.equals("asp") ||
extension.contains("\\") || extension.contains("/")){
extension = "html";
}
}
return extension;
}
}
|
213658_1 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stappen voor ber.ber.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.<SUF>*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|
213658_3 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te<SUF>*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|
213658_5 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te<SUF>*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|
213658_6 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te<SUF>*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|
213658_7 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stap om te controleren dat de leveringautorisatie
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te<SUF>*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|
213658_8 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te<SUF>*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|
213658_9 | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
| MinBZK/OperatieBRP | 2016/brp 2016-02-09/art/art-framework/funqmachine/src/main/groovy/nl/bzk/brp/funqmachine/jbehave/steps/BerBerSteps.java | 3,971 | /**
* Stap om te controleren dat er een uitgaand bericht bestaat als antwoord op het ingaande bericht.
*/ | block_comment | nl | /**
* This file is copyright 2017 State of the Netherlands (Ministry of Interior Affairs and Kingdom Relations).
* It is made available under the terms of the GNU Affero General Public License, version 3 as published by the Free Software Foundation.
* The project of which this file is part, may be found at https://github.com/MinBZK/operatieBRP.
*/
package nl.bzk.brp.funqmachine.jbehave.steps;
import java.io.IOException;
import java.sql.Timestamp;
import java.text.ParseException;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.List;
import java.util.Map;
import javax.sql.DataSource;
import junit.framework.Assert;
import junit.framework.AssertionFailedError;
import nl.bzk.brp.funqmachine.jbehave.context.ScenarioRunContext;
import nl.bzk.brp.funqmachine.jbehave.context.StepResult;
import nl.bzk.brp.funqmachine.ontvanger.HttpLeveringOntvanger;
import nl.bzk.brp.funqmachine.processors.xml.AssertionMisluktError;
import org.custommonkey.xmlunit.Diff;
import org.custommonkey.xmlunit.XMLAssert;
import org.jbehave.core.annotations.BeforeStory;
import org.jbehave.core.annotations.Then;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.jdbc.core.JdbcTemplate;
import org.xml.sax.SAXException;
/**
* Stappen voor ber.ber.
*/
@Steps
public final class BerBerSteps {
private static final Logger LOGGER = LoggerFactory.getLogger(BerBerSteps.class);
@Autowired
private DatabaseSteps databaseSteps;
@Autowired
private HttpLeveringOntvanger ontvanger;
@Autowired
private ScenarioRunContext runContext;
/**
* Leegt de ber.ber tabellen.
*/
@BeforeStory
public void leegBerichtenTabel() {
LOGGER.info("Start leeg berichten (ber) tabellen");
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
template.update("truncate ber.ber cascade");
LOGGER.info("Einde leeg berichten (ber) tabellen");
}
/**
* Stap om te controleren dat de tijdstip verzending in het bericht (zie data kolom ber.ber tabel) gelijk is aan tsverzending kolom in de ber.ber
* tabel.
*/
@Then("tijdstipverzending in bericht is correct gearchiveerd")
public void deTijdstipVerzendingInBerichtIsGelijkAanTijdstipInArchivering() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsverzending, data from ber.ber");
final SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss.SSS");
for (final Map<String, Object> map : list) {
final Timestamp tsverzending = (Timestamp) map.get("tsverzending");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:tijdstipVerzending>");
final int eindIndex = data.indexOf("</brp:tijdstipVerzending>");
if (startIndex != -1 && eindIndex != -1) {
String tijdInBericht = data.substring(startIndex + "<brp:tijdstipVerzending>".length(), eindIndex);
tijdInBericht = tijdInBericht.replace("T", " ");
tijdInBericht = tijdInBericht.substring(0, tijdInBericht.length() - 6);
final Date parse = dateFormat.parse(tijdInBericht);
tijdInBericht = dateFormat.format(parse);
LOGGER.info(String.format("vergelijk tsverzending in database %s met tijdstipVerzending in bericht %s",
tsverzending.toString(), tijdInBericht));
Assert.assertTrue(tijdInBericht.startsWith(tsverzending.toString()));
}
// throw new AssertionFailedError("Geen tijdstip in bericht");
}
}
/**
* Stap om te controleren dat de tijdstip ontvangst binnen redelijke grenzen actueel is. Gezien de mogelijke tijdsverschillen op de servers hanteren we
* voorlopig een uur.
*/
@Then("tijdstipontvangst is actueel")
public void tijdstipOntvangsIsActueel() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select tsontv from ber.ber where richting = 1");
for (Map<String, Object> map : list) {
final Timestamp tsontv = (Timestamp) map.get("tsontv");
final long nu = System.currentTimeMillis();
final long verschil = Math.max(tsontv.getTime(), nu) - Math.min(tsontv.getTime(), nu);
LOGGER.info(String.format("verschil tsontv = %d msec", verschil));
if (verschil > 1000 * 60 * 60) {
throw new AssertionFailedError("Tijdstip ontvangst niet actueel (verschil groter dan 1 uur!!)");
}
}
}
/**
* Stap om te controleren dat de kruisreferentie in het bericht gelijk is aan de kruisreferentie in de ber.ber tabel
*/
@Then("referentienr is gelijk")
public void kruisreferentieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select referentienr, data from ber.ber");
for (final Map<String, Object> map : list) {
final String referentie = (String) map.get("referentienr");
final String data = (String) map.get("data");
final int startIndex = data.indexOf("<brp:referentienummer>");
final int eindIndex = data.indexOf("</brp:referentienummer>");
if (startIndex != -1 && eindIndex != -1) {
final String referentieInBer = data.substring(startIndex + "<brp:referentienummer>".length(), eindIndex);
LOGGER.info(String.format("vergelijken referentie uit database %s met referentie in bericht %s", referentie, referentieInBer));
Assert.assertEquals(referentie, referentieInBer);
}
}
}
/**
* Stap om te controleren dat de leveringautorisatie
*/
@Then("leveringautorisatie is gelijk in archief")
public void leveringautorisatieIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select levsautorisatie, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer levsautorisatie = (Integer) map.get("levsautorisatie");
final String data = (String) map.get("data");
final String levsautorisatieInBericht = geefWaarde(data, "<brp:leveringsautorisatieIdentificatie>",
"</brp:leveringsautorisatieIdentificatie>");
if (levsautorisatieInBericht != null) {
LOGGER.info(String.format("vergelijken leveringsautorisatie uit database %s met leveringsautorisatie in bericht %s", levsautorisatie,
levsautorisatieInBericht));
Assert.assertEquals(levsautorisatie.intValue(), Integer.parseInt(levsautorisatieInBericht));
}
}
}
/**
* Stap om te controleren dat de dienstid correct is gearchiveerd
*/
@Then("dienstid is gelijk in archief")
public void dienstIdIsGelijk() throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List<Map<String, Object>> list = template.queryForList("select dienst, data from ber.ber where data is not null");
for (final Map<String, Object> map : list) {
final Integer dienst = (Integer) map.get("dienst");
final String data = (String) map.get("data");
final String dienstInBericht = geefWaarde(data, "<brp:dienstIdentificatie>",
"</brp:dienstIdentificatie>");
if (dienstInBericht != null) {
LOGGER.info(String.format("vergelijken dienstid uit database %s met dienstid in bericht %s", dienst, dienstInBericht));
Assert.assertEquals(dienst.intValue(), Integer.parseInt(dienstInBericht));
}
}
}
/**
* Stap om te<SUF>*/
@Then("bestaat er een antwoordbericht voor referentie $referentie")
public void bestaatErEenAntwoordberichtVoorReferentie(final String referentie) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.ber where richting = 2 and antwoordop in (select id from ber.ber where "
+ "richting = 1 and referentienr = ?)", referentie);
LOGGER.info("Aantal antwoordberichten: " + list.size());
if (list.isEmpty()) {
throw new AssertionFailedError("Geen antwoord bericht gevonden voor referentie: " + referentie);
}
}
/**
* Stap om te controleren dat alle asynchroon ontvangen berichten correct gearchiveerd zijn.
*/
@Then("controleer dat alle asynchroon ontvangen berichten correct gearchiveerd zijn")
public void controleerDatAlleOntvangenBerichtenGearchiveerdZijn() throws IOException, SAXException {
final List<String> ontvangenBerichten = ontvanger.getMessages();
LOGGER.info("Aantal ontvangen berichten om te controleren:" + ontvangenBerichten.size());
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
for (final String bericht : ontvangenBerichten) {
final String referentie = geefWaarde(bericht, "<brp:referentienummer>", "</brp:referentienummer>");
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
referentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String berichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(bericht, berichtUitArchief);
}
}
/**
* Stap om te controleren dat het synchrone request en response bericht correct gearchiveerd zijn.
*/
@Then("is het synchrone verzoek correct gearchiveerd")
public void isHetSynchroneVerzoekCorrectGearchiveerd() throws IOException, SAXException {
final StepResult laatsteVerzoek = runContext.geefLaatsteVerzoek();
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
//check request archivering
{
final String request = laatsteVerzoek.getRequest().toString();
final String requestReferentie = geefWaarde(request, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het request met referentie: " + requestReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 1 and referentienr = ?",
requestReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(request, requestberichtUitArchief);
}
//check response archivering
{
final String response = laatsteVerzoek.getResponse().toString();
final String responseReferentie = geefWaarde(response, "<brp:referentienummer>", "</brp:referentienummer>");
LOGGER.info("Controleer het response met referentie: " + responseReferentie);
final List<Map<String, Object>> archiefBerichten = template.queryForList("select data from ber.ber where richting = 2 and referentienr = ?",
responseReferentie);
Assert.assertEquals(archiefBerichten.size(), 1);
String requestberichtUitArchief = (String) archiefBerichten.get(0).get("data");
checkXmlGelijk(response, requestberichtUitArchief);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met crossreferentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor crossreferentie $crossreferentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorCrossReferentieEnSrt(final String crossreferentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where crossreferentienr = ? and srt= ?)", crossreferentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + crossreferentie + srt);
}
}
/**
* Stap om te controleren dat er geen persoon is gearchiveerd voor bericht met referentie en srt
*/
@Then("bestaat er geen voorkomen in berpers tabel voor referentie $referentie en srt $srt")
public void bestaatErGeenVoorkomenInBerPersVoorReferentieEnSrt(final String referentie, final String srt) throws ParseException {
final JdbcTemplate template = new JdbcTemplate(geefBerLezenSchrijvenDataSource());
final List list = template.queryForList("select 1 from ber.berpers "
+ "where berpers.ber = (select id from ber.ber where referentienr = ? and srt= ?)", referentie, Integer.parseInt(srt));
LOGGER.info("Aantal records in ber.pers met refnr en srt: " + list.size());
if (!list.isEmpty()) {
throw new AssertionFailedError("Id van ber.ber bericht komt voor in de ber.pers tabel: " + referentie + srt);
}
}
private String geefWaarde(final String input, final String van, final String tot) {
final int startIndex = input.indexOf(van);
final int eindIndex = input.indexOf(tot);
if (startIndex != -1 && eindIndex != -1) {
return input.substring(startIndex + van.length(), eindIndex);
}
return null;
}
private void checkXmlGelijk(final String berichtA, String berichtB) throws SAXException, IOException {
final Diff myDiff = new Diff(stripSoap(berichtA), stripSoap(berichtB));
try {
XMLAssert.assertXMLEqual(myDiff, true);
} catch (AssertionFailedError e) {
//AssertionFailedError is geen subklasse van Exceptie, daarom wrappen we hier
throw new AssertionMisluktError("XML niet gelijk op xpath: $xpath", e);
}
}
private String stripSoap(String input) {
input = input.substring(input.indexOf("<brp:"), input.length());
if (input.contains("</soap")) {
input = input.substring(0, input.indexOf("</soap"));
} else if (input.contains("</SOAP")) {
input = input.substring(0, input.indexOf("</SOAP"));
}
return input;
}
private DataSource geefBerLezenSchrijvenDataSource() {
return (DataSource) databaseSteps.getApplicationContext().getBean("berlezenSchrijvenDataSource");
}
}
|